生成性问答中减轻幻觉的证据增强三元组生成框架

这篇论文介绍了一种名为EATQA的新型框架，旨在减少生成式问答系统中的幻觉。幻觉是指模型生成的答案不受提供的文档支持的情况。EATQA通过预测所有可能组合的问题、证据和答案之间的逻辑关系，与传统方法相比，这是一种独特的方法。该框架已应用于LLama模型，并在两个GQA基准测试中表现优异，胜过其他大型语言模型（LLMs）和现有的幻觉缓解技术。这项工作的重要性在于它有望通过确保生成的答案不仅合理，而且事实依据来提高LLMs的可靠性。这一进展对于希望提高人工智能生成内容的事实准确性的用户和研究人员可能特别有价值。- 提出了一种新颖的证据增强三元组生成框架（EATQA）来解决生成式问答中的幻觉问题。 - EATQA鼓励模型通过翻转源对和目标标签来预测所有（问题，证据，答案）三元组的组合，以理解它们之间的逻辑关系。 - 在推理阶段，通过填补分布差距来提取证据中的知识。 - 该框架确保模型学习查询、证据和答案之间的逻辑关系，同时改善证据生成和查询回答。 - 在两个具有挑战性的GQA基准测试中，将EATQA应用于LLama，并且在其他基于LLMs的方法和幻觉缓解方法上表现出色。 - 进一步分析表明，该方法不仅保留了LLM中的先验知识，还减轻了幻觉并生成了忠实的答案。