Month: November 2023

近期，大型语言模型（LLM）因其出色的遵循指令能力和处理广泛的开放式场景的能力而受到了广泛关注。通过指令微调，研究人员提供了许多与人类偏好相一致的技术，这些技术基于开源LLM，如FlanT5、OPT、LLaMA和Pythia等。这些对齐的LLM显示出对人类命令的理解能力提高，并产生更合乎逻辑的回复。然而，当前的基准和传统的测量方法需要充分评估LLM在开放式场景中的能力。 因此，需要一种新的基准方法，可以全面评估LLM在开放式活动中的能力。同时，正在进行研究来探索不同的方法来确定LLM的性能。Arena格式技术利用众包平台获取匿名LLM竞赛结果。人类评估可靠，但也需要花费金钱和大量的努力。一些方法使用GPT-4作为仲裁者。然而，这些方法需要API模型转换的可变性和可能的数据泄露，可能会危及仲裁者的重复性。PandaLM致力于改进用于回答评估的开源LLM。 图1（a）：JudgeLM的数据生成流程。首先收集105K个种子任务作为问题。然后从11个LLM中提取答案，并随机选择两个答案。最后，输入任务、样本答案对和（如有需要）GPT-4的回复。这样可以得到评分和对仲裁者的详细解释。 然而，这种精细模型在司法岗位上的实用性受到模型大小、训练数据质量和内在LLM偏见的限制。北京市人工智能研究院和华中科技大学的研究人员建议在这项研究中使用优化的开源LLM来评估LLM，这些LLM作为可扩展的仲裁者（JudgeLM）与指导仲裁者达成足够好的一致性。他们的技术将用于训练和评估仲裁者模型的高质量数据集与作为可扩展的仲裁者在开放式任务中担任评估者。他们修改开源LLM以在他们的框架内作为仲裁者，并检查它们在模型大小（7B至33B）和训练数据量（3.5K至100K）方面的扩展能力。 图1（b）：JudgeLM的不同特征和微调示例。为了改善LLM作为可扩展仲裁者的性能，他们使用生成的仲裁者样本。他们还建议使用参考答案删除、参考支持和交换增强来微调LLM作为仲裁者，以分别克服格式、知识和位置偏见。 如图1a所示，他们策划的数据集包括105K个种子问题、LLM答案对和教员仲裁者GPT-4的判断。注意，对于每个种子挑战，学生们提出了两个决策——一个带有参考答案，一个没有参考答案。这个数据集的划分是将100K个种子问题用于训练（比PandaLM大2倍），并将剩下的问题用于验证（比PandaLM大29倍）。当LLM作为仲裁者时，位置偏见（偏爱特定情况下的回答）、知识偏见（过度依赖预先训练的信息）和格式偏见（仅在特定提示形式下的最佳性能）等偏见总会出现。 他们提供了处理它们的方法。此外，如图1b所示，他们的JudgeLM系统具有扩展功能，如多轮对话、对单个回复评分以及评判多个答案，除了多模型。相比竞技场格式的方法，他们的解决方案更快捷且经济实惠。例如，JudgeLM-7B是一种模型，可以在3分钟内评估5000对回应，并且只需8个A100 GPU。JudgeLM的隐私保护和可重复性比闭源LLM评委更多。他们的方法研究了LLM微调的扩展能力和偏见，与并发的开源LLM评委相比。 此外，他们提供的数据集是最全面和出色的，将极大地帮助未来的评估模型分析研究。以下简要描述了他们的主要贡献： • 他们提出了JudgeLM，一种可扩展的语言模型评委，用于评估开放式场景下的LLM。 • 他们引入了一个高质量、大规模的数据集，用于评估模型，丰富了不同的种子任务、LLM生成的答案以及来自GPT-4的详细判断，为未来评估LLM的研究奠定了基础。它超过了人对人的一致性，达到90%以上。此外，它的JudgeLM具有处理长时间作业的广泛能力。 • 他们研究了LLM中存在的偏见、评委微调，并提出了几种解决方案。他们的技术极大地提高了模型在各种场景下的一致性，提高了JudgeLM的可靠性和适应性。

GPT-4 在互联网上由UCSD的一组研究人员进行了公共图灵测试。表现最佳的GPT-4提示在41%的游戏中成功，这比ELIZA（27%）、GPT-3.5（14%）和随机机会（63%）提供的基线更好，但它仍然需要迈上更高一步。图灵测试的结果显示，参与者主要根据语言风格（占总比例的35%）和社交情感特征（占总比例的27%）进行判断。参与者的教育水平和之前与LLM的经验都不能预测他们发现欺骗的能力，这表明即使是在这方面有经验的人也可能容易受欺骗。虽然图灵测试因其作为智能测量的缺点而受到广泛批评，但来自加利福尼亚大学圣迭戈分校的两位研究人员表示，它仍然有用作衡量自发交流和欺骗的标准。他们拥有可以模仿人类的人工智能模型，这可能会产生深远的社会影响。因此，他们正在研究各种方法和标准的有效性，以确定人类相似性。 图灵测试有趣的原因与其对智能敏感性的争议无关。首先，分析正在测试的能力非常重要，即一个系统能否欺骗对话者认为它是人类。图灵测试提供了一种可靠的方法来监测模型中此类能力的发展。此外，它使我们能够了解在撒谎中起作用的各个方面，例如模型的大小和性能、提示策略、附属基础设施（如实时信息访问）以及询问者的专业水平。 其次，图灵测试可用作研究工具来探究机器显示人类外貌的普遍认知。评估了机器的性能，还研究了人类参与者在文化、伦理和心理方面的先入为主观念。询问者在撰写和完善问题时披露了关于构成为人类的特质以及哪些特质最难拥有的潜在观点。 图灵测试经过一个询问者和一个证人的修改，用来确定后者是人还是人工智能。这与图灵最初的三人设定形成对比，但由于无需每场游戏都在线上有多个人类参与者，这一设定变得相当普遍。 他们使用OpenAI API开发了25个LLM证人，可以回答用户提出的问题。每个LLM证人都有一个温度设置（0.2、0.5或1.0）、一个模型（GPT-3.5或GPT-4）和一个提示。提示解释了情况，并为代理人提供了具体的指导。 聊天应用的用户界面被设计成类似于标准的消息服务。询问者发送第一条消息，每个用户一次只能发送一条消息。每次沟通只能有300个字符长，并且总的讨论时间为5分钟。用户不被允许将内容粘贴到文本框中，还应用了内容过滤器以防止滥用信息。在屏幕的右上角，您将找到一个倒计时计时器、显示指导说明的按钮和一个报告滥用行为的表格。 询问者使用决策界面提供以下信息： i）裁决（机器或人工证人） ii）他们对自己做出正确决定的确信程度（0-100）。 iii）对他们选择的理由（自由形式语言）。 加州大学圣迭戈分校的IRB授予了这项研究（图灵测试）的许可。实验在现场网站进行。在线社交媒体平台被用于招募参与者。他们阅读了概述游戏规则的说明，并同意他们的数据被用于科学研究。 他们招募了650人，并完成了1400场“游戏”，在其中与人类或GPT模型进行了短暂的对话。被试者被提供了一个对话伙伴，并被要求识别他们。 研究参与者被GPT-4模型欺骗的比例为41%，而被GPT-3.5模型欺骗的比例为5%至14%。只有在63%的试验中，人们能够说服参与者他们不是机器。 局限性 由于这项研究作为一项开放、在线的实验，有一些注意事项可能会导致其结果不够可靠。首先，样本可能更具代表性，因为参与者是通过社交媒体招募的。其次，参与者需要有一些激励措施。因此，提问者和证人可能会尽力而为。人类证人已经通过表现得像人工智能来进行“恶作剧”。一些调查人员将这种行为作为证明人类判断的理由。因此，结果可能低估了人类的表现，同时高估了人工智能的表现。第三，一些提问者承认他们对证人有先验知识。 总结一下 – 图灵测试经常被批评为衡量智能的不完美指标：因为它过于，但是在这种情况下，如果提问者没有透露，研究人员可能高估了人类的表现。最后，由于每次只有一个在线用户，他们经常与同一个人工智能证人配对。因此，人们就会对任何给定的证言有先入为主的观念，这可能导致整体上的SR率降低。尽管努力删除了连续三次与人工智能对战的游戏，以抵消这种偏见对结果的影响，但这种偏见可能仍然影响了结果。最后，他们只使用了可用提示的一小部分，并且在开发这些提示时并不知道真实人类会如何与游戏互动。结果肯定低估了GPT-4在图灵测试中的潜力，因为还有更有效的提示。