73 search results for "AI聊天机器人"

在开放领域指令遵循数据上训练LLM的结果是惊人的。然而，手动开发这种类型的指令数据需要时间和精力。此外，人类可能需要帮助创建高度复杂的指令。最近，许多自然语言处理（NLP）社区的努力集中在教导大型语言模型更好地理解和遵循指令。最近的研究表明，LLM也可能从教学中受益。因此，这种数据现在常规用于在开放领域训练和微调LLM。 Evol-Instruct是一种革命性的方法，使用LLM创建不同复杂度的大量指令数据；这是由微软和北京大学的研究人员团队开发的。该团队的WizardLM模型生成的指令在人类评估中得分高于人类创建的指令数据集。 Evol-Instruct流程分为三个阶段： 指令的演化 基于新开发的教育的响应的演化 消除的演化 为了从简单的种子指令生成更复杂的指令，Evol-Instruct可以执行深度演化（涉及五种操作之一：添加约束、加深、具体化、增加推理步骤和复杂化输入）或广度演化（基于给定的指令创建新的指令）。最后一个阶段，消除演化，作为一个过滤器来消除不良指令。 研究人员使用Evol-Instruct生成不同复杂度的指令。然后，他们将所有生成的指令数据合并起来，通过实证研究来微调LLaMA LLM并开发他们的WizardLM模型。WizardLM与ChatGPT、Alpaca和Vicuna等行业标准工具进行了评估。 研究人员主要得出以下结论： Evol-Instruct的指令优于人类开发的ShareGPT。使用相同数量的Evol-Instruct数据（即70k）微调LLaMA 7B时，WizardLM的表现比Vicuna高出12.4%（41.3%对28.9%）。 在面临困难的测试指令时，标注者对WizardLM的结果比对ChatGPT的结果更满意。在测试集上，WizardLM相比ChatGPT输了12.8%，胜率为28.0%对40.8%。然而，在测试集的高难度部分（难度级别8）中，WizardLM相对于ChatGPT的胜率高出7.9个百分点，为42.9%对35.0%。这表明该技术极大地增强了大型语言模型处理复杂指令的能力。 研究的作者通过评估高复杂性组件的人类评估结果，显示WizardLM模型的输出优于OpenAI ChatGPT的输出。结果显示，使用AI演进的指令进行微调是增强大型语言模型的潜在途径，即使WizardLM在某些方面仍落后于ChatGPT。源代码和输出数据都可以在https://github.com/nlpxucan/WizardLM上查看。 研究人员使用以下三个LLM作为起点： OpenAI创建了AI聊天机器人ChatGPT，以使对话变得自然和有趣。它基于从互联网等大量文本数据训练的LLM，如GPT-3.5和GPT-4。在人类训练员的监督下，使用监督学习和强化学习方法对ChatGPT进行微调。 Alpaca是斯坦福大学的一个倡议，旨在创建和传播一种免费的、由社区驱动的遵循指令的范例。该模型使用通过查询OpenAI的text-davinci003模型创建的52K个遵循指令实例开发，并建立在LLaMA 7B上，这是一个经过训练的大型语言模型，使用了多个文本来源。 Vicuna是一个开源聊天机器人，可以为用户提供人性化和有趣的回复。它基于LLaMA 13B，使用了来自ShareGPT的70K个用户共享对话数据进行微调。 研究人员使用ChatGPT来评估每个指令的复杂性和困难度，从而使他们能够更深入地了解指令演化过程。根据LLaMA模型许可，研究人员以增量权重的形式发布[WizardLM]权重。可以通过将增量添加到初始LLaMA权重来获得WizardLM权重。 研究人员使用人工指导评估集将Wizard的输出与人类评估者生成的输出进行比较。在Wizard和控制组之间进行了盲目的成对比较。作者的评估数据收集涵盖了许多以用户为中心的任务，从复杂的代码生成和调试到数学推理，复杂格式的推理，学术写作和广泛的学科。 这些结果表明，Evol-Instruct的AI演化指令方法可以极大地提高LLM性能，并使模型具备处理具有挑战性和复杂指令的能力，例如涉及数学计算、程序开发和逻辑思考的指令。

随着最近技术的进步，像GPT-3和PaLM这样的大型语言模型在教育、内容创作、医疗保健、研究等领域展现出了非凡的生成能力。例如，这些大型语言模型对于作家来说尤其有用，可以帮助他们提升写作风格，对于初学者开发者来说，可以帮助他们生成样板代码等。此外，结合多个第三方API的可用性，大型语言模型在学生和医疗系统等多个面向消费者的系统中的广泛应用只增加了。然而，在这种情况下，系统的安全性成为一个基本问题，因为人们信任这些系统来处理敏感的个人信息。这就需要更清楚地了解大型语言模型的不同能力和限制。 然而，大多数以前的研究都集中在通过采用更先进和复杂的架构使大型语言模型更强大。尽管这项研究在很大程度上超越了自然语言处理社区，但也导致了对这些系统安全性的忽视。在这方面，普林斯顿大学和佐治亚理工学院的博士后学生与艾伦人工智能研究所（A2I）的研究人员合作，对OpenAI的革命性AI聊天机器人ChatGPT进行了毒性分析。研究人员评估了ChatGPT的超过50万次生成过程中的毒性，并发现当ChatGPT的系统参数设置为分配一个人物角色时，其毒性在各种话题上增加了数倍。例如，当ChatGPT的人物角色设置为拳击手“穆罕默德·阿里”时，其毒性几乎比默认设置增加了3倍。这特别令人担忧，因为ChatGPT目前被用作构建其他几种技术的基础，这些技术在进行系统级修改后可能会生成相同水平的毒性。因此，A2I研究人员和大学生所做的工作侧重于在分配不同角色时，对ChatGPT生成的毒性有更深入的了解。 ChatGPT API提供了一种功能，允许用户通过设置其系统参数来分配一个人物角色，从而通过影响ChatGPT的对话方式来设定对话的基调。对于他们的用例，研究人员精心挑选了来自不同背景和国家的90个人物角色，如企业家、政治家、记者等。这些人物角色被分配给ChatGPT，以分析其对大约128个关键实体（如性别、宗教、职业等）的回应。团队还要求ChatGPT继续完成关于这些实体的某些不完整的短语，以收集更多见解。最终的研究结果显示，给ChatGPT分配一个人物角色可能会使其毒性增加多达六倍，ChatGPT经常产生严厉的输出，并沉溺于负面刻板印象和信念。 团队的研究发现，ChatGPT输出的毒性根据所给予的人物角色而有显著差异，研究人员认为这是因为ChatGPT根据其训练数据对人物的理解。例如，一个发现表明，记者的毒性是商人的两倍，即使在实践中可能并非如此。研究还显示，特定的人群和实体比其他人更频繁地成为目标（几乎是三倍），这显示了该模型固有的歧视行为。例如，毒性根据人的性别而有所不同，比基于种族的毒性大约高出50%。这种波动趋势可能对用户造成损害，并对相关个体进行贬低。此外，恶意用户可以在ChatGPT上构建技术，生成可能伤害无辜观众的内容。 这项研究对ChatGPT的毒性进行的分析主要揭示了三个问题：当分配人物角色时，模型的毒性可以显著增加（比默认设置高出多达六倍）；模型的毒性根据人物角色的身份而有很大差异，ChatGPT对人物角色的观点起着重要作用；ChatGPT可以通过对特定实体进行更具毒性的内容创作来歧视性地针对特定实体。研究人员还指出，尽管ChatGPT是他们实验中使用的大型语言模型，但他们的方法可以扩展到任何其他大型语言模型。团队希望他们的工作能激励人工智能社区开发出提供道德、安全和可靠的人工智能系统的技术。