介绍 在人工智能（AI）领域中，对精准度和可靠性的不断追求带来了突破性的创新。这些策略对于引领生成模型提供相关答案至关重要。生成AI在不同复杂应用中的使用的最大障碍之一就是幻觉。Meta AI研究发布的最新论文《链式验证减少大型语言模型中的幻觉》介绍了一种简单的技术，可以直接减少文本生成时的幻觉。 本文将探讨幻觉问题，并介绍论文中提到的CoVe概念，以及如何使用LLMs、LangChain框架和LangChain表达语言（LCEL）来实现它以创建自定义链。 学习目标 了解LLMs中的幻觉问题。 了解缓解幻觉的链式验证（CoVe）机制。 了解CoVe的优点和缺点。 学习使用LangChain来实现CoVe，并理解LangChain表达语言。 本文是作为数据科学博文马拉松的一部分发表的。 LLMs中的幻觉问题是什么？ 让我们首先尝试了解LLM中的幻觉问题。使用自回归生成方法，LLM模型根据之前的上下文来预测下一个单词。对于频繁主题，模型已经看过足够多的示例，可以自信地为正确的标记分配高概率。然而，由于模型没有接受过关于异常或陌生主题的训练，它可能会以高置信度提供不准确的标记。这导致了看似合理但错误的幻觉信息。 下面是Open AI的ChatGPT中出现幻觉的一个例子，我询问了一本由印度作者于2020年出版的书籍《Small Things的经济学》，但模型却带着充分的自信回答错误，并将其与另一位诺贝尔奖获得者阿比吉特·巴纳吉的书《Poor Economics》混淆。 链式验证（CoVe）技术 CoVe机制结合了提示和一致性检查，为LLMs创建了一个自我验证系统。下面是论文中列出的主要步骤。我们将逐一详细了解每个步骤。 链式过程概述 生成基线响应：给定查询，使用LLM生成响应。 计划验证：给定查询和基线响应，生成一系列验证问题的列表，这些问题可以帮助自我分析是否存在原始响应中的任何错误。 执行验证：依次回答每个验证问题，因此检查答案与原始响应之间的一致性或错误。 生成最终经过验证的响应：根据发现的不一致性（如果有的话），生成一个经过修订的响应，并纳入验证结果。 使用详细示例理解链式过程 生成初始响应…
Leave a Comment