四海吧 Posts

在开放领域指令遵循数据上训练LLM的结果是惊人的。然而，手动开发这种类型的指令数据需要时间和精力。此外，人类可能需要帮助创建高度复杂的指令。最近，许多自然语言处理（NLP）社区的努力集中在教导大型语言模型更好地理解和遵循指令。最近的研究表明，LLM也可能从教学中受益。因此，这种数据现在常规用于在开放领域训练和微调LLM。 Evol-Instruct是一种革命性的方法，使用LLM创建不同复杂度的大量指令数据；这是由微软和北京大学的研究人员团队开发的。该团队的WizardLM模型生成的指令在人类评估中得分高于人类创建的指令数据集。 Evol-Instruct流程分为三个阶段： 指令的演化 基于新开发的教育的响应的演化 消除的演化 为了从简单的种子指令生成更复杂的指令，Evol-Instruct可以执行深度演化（涉及五种操作之一：添加约束、加深、具体化、增加推理步骤和复杂化输入）或广度演化（基于给定的指令创建新的指令）。最后一个阶段，消除演化，作为一个过滤器来消除不良指令。 研究人员使用Evol-Instruct生成不同复杂度的指令。然后，他们将所有生成的指令数据合并起来，通过实证研究来微调LLaMA LLM并开发他们的WizardLM模型。WizardLM与ChatGPT、Alpaca和Vicuna等行业标准工具进行了评估。 研究人员主要得出以下结论： Evol-Instruct的指令优于人类开发的ShareGPT。使用相同数量的Evol-Instruct数据（即70k）微调LLaMA 7B时，WizardLM的表现比Vicuna高出12.4%（41.3%对28.9%）。 在面临困难的测试指令时，标注者对WizardLM的结果比对ChatGPT的结果更满意。在测试集上，WizardLM相比ChatGPT输了12.8%，胜率为28.0%对40.8%。然而，在测试集的高难度部分（难度级别8）中，WizardLM相对于ChatGPT的胜率高出7.9个百分点，为42.9%对35.0%。这表明该技术极大地增强了大型语言模型处理复杂指令的能力。 研究的作者通过评估高复杂性组件的人类评估结果，显示WizardLM模型的输出优于OpenAI ChatGPT的输出。结果显示，使用AI演进的指令进行微调是增强大型语言模型的潜在途径，即使WizardLM在某些方面仍落后于ChatGPT。源代码和输出数据都可以在https://github.com/nlpxucan/WizardLM上查看。 研究人员使用以下三个LLM作为起点： OpenAI创建了AI聊天机器人ChatGPT，以使对话变得自然和有趣。它基于从互联网等大量文本数据训练的LLM，如GPT-3.5和GPT-4。在人类训练员的监督下，使用监督学习和强化学习方法对ChatGPT进行微调。 Alpaca是斯坦福大学的一个倡议，旨在创建和传播一种免费的、由社区驱动的遵循指令的范例。该模型使用通过查询OpenAI的text-davinci003模型创建的52K个遵循指令实例开发，并建立在LLaMA 7B上，这是一个经过训练的大型语言模型，使用了多个文本来源。 Vicuna是一个开源聊天机器人，可以为用户提供人性化和有趣的回复。它基于LLaMA 13B，使用了来自ShareGPT的70K个用户共享对话数据进行微调。 研究人员使用ChatGPT来评估每个指令的复杂性和困难度，从而使他们能够更深入地了解指令演化过程。根据LLaMA模型许可，研究人员以增量权重的形式发布[WizardLM]权重。可以通过将增量添加到初始LLaMA权重来获得WizardLM权重。 研究人员使用人工指导评估集将Wizard的输出与人类评估者生成的输出进行比较。在Wizard和控制组之间进行了盲目的成对比较。作者的评估数据收集涵盖了许多以用户为中心的任务，从复杂的代码生成和调试到数学推理，复杂格式的推理，学术写作和广泛的学科。 这些结果表明，Evol-Instruct的AI演化指令方法可以极大地提高LLM性能，并使模型具备处理具有挑战性和复杂指令的能力，例如涉及数学计算、程序开发和逻辑思考的指令。

近年来，基于Transformer的大型语言模型（LLMs）因其捕捉和存储事实知识的能力而变得非常流行。然而，这些模型在推理过程中如何提取事实关联的方式仍然相对未被充分探索。谷歌DeepMind、特拉维夫大学和谷歌研究的研究人员最近进行了一项研究，旨在研究Transformer-based LLMs存储和提取事实关联的内部机制。 该研究提出了一种信息流方法，以调查模型如何预测正确属性以及内部表示如何在层之间演化以生成输出。具体而言，研究人员关注了仅有解码器的LLMs，并确定了与关系和主题位置相关的关键计算点。他们通过使用“去除”策略，在特定层次阻止最后一个位置与其他位置进行关注，并观察推理过程中的影响。 为了进一步确定属性提取发生的位置，研究人员分析了在这些关键点和前面的表示构建过程中传播的信息。他们通过对词汇表、模型的多头自注意力（MHSA）和多层感知机（MLP）子层和投影进行额外干预来实现这一目标。 研究人员确定了一种基于主题丰富过程和属性提取操作的属性提取内部机制。具体而言，在模型的早期层中，关于主题的信息在最后一个主题令牌中得到丰富，而关系传递给最后一个令牌。最后，最后一个令牌使用关系通过注意力头参数从主题表示中提取相应的属性。 这些发现揭示了LLMs内部存储和提取事实关联的机制。研究人员认为，这些发现可能为知识定位和模型编辑开辟新的研究方向。例如，该研究的方法可以用于确定LLMs获取和存储有偏见信息的内部机制，并开发缓解此类偏见的方法。 总的来说，这项研究强调了研究Transformer-based LLMs存储和提取事实关联的内部机制的重要性。通过了解这些机制，研究人员可以开发更有效的方法来改善模型性能并减少偏见。此外，该研究的方法可以应用于自然语言处理的其他领域，如情感分析和语言翻译，以更好地了解这些模型的内部运作方式。