2533 search results for "研究"

“`html 世界模型是一种旨在构建对环境的内部了解并利用这些知识来预测该空间内未来事件的人工智能系统。研究人员主要在受控环境中测试这些世界模型，如视频游戏或特定任务，例如驾驶。最终目标是雄心勃勃的 – 创建可以处理遇到的各种情况的模型，这些情况在不可预测的现实世界中发生。 早期尝试创建这种系统的一个例子是Gen-2视频生成系统。它就像一个初入行的艺术家，试图制作展示基本物体运动理解的短视频。然而，它在更复杂的任务中有困难，对于涉及快速相机移动或复杂物体行为的情景挣扎不已。这揭示了当前世界模型的局限性，促使研究人员深入研究和改进这些系统。 构建有效的世界模型之路面临着几个挑战。一个关键方面是这些模型需要生成准确一致的环境地图。它不仅仅是识别运动，还要在给定空间内进行导航和互动。此外，这些模型不仅必须理解世界的动态，还必须理解和模拟其居民的行为，包括真实的人类行为。这个多方面的挑战需要不断的研究和创新。 研究人员正在积极努力克服这些挑战，致力于增强世界模型的适应性和能力。就像升级视频游戏中的角色一样 – 这些模型需要在生成可靠的地图和在不同复杂情景中进行导航时进行升级。目标是使它们具备处理现实世界的不可预测性的能力。 为了衡量这些世界模型的有效性，研究人员采用了一些度量标准。这些度量标准衡量了模型生成一致准确地图的能力，其在不同环境中导航的熟练程度以及其对人类行为的逼真模拟。这些可量化的测量方法作为基准，让研究人员评估这些不断发展的世界模型的进展和能力。 总之，开发通用世界模型是一个充满挑战和令人兴奋前景的持续过程。随着研究人员不断完善这些模型，承诺在各种现实情景中进行更好的模拟和预测。这些模型的演变不仅推动了人工智能能力的界限，还有可能深入理解复杂环境并改进人工智能与我们的动态世界的互动。 The post General World Models: Runway AI Research Starting a New Long-Term Research Effort…

使用大量推理规则和构建子证明的就业使得证明的复杂性在许多演绎推理任务中无限发展，例如医学诊断或定理证明。由于巨大的证明空间，不可能找到覆盖所有大小保证的数据。因此，从基本证明开始，通用推理模型应能够推广到更复杂的证明。 纽约大学和谷歌AI研究人员的一个团队证明，LLMs在接受上下文学习（ICL）和思维链（CoT）提示的训练后可以进行演绎推理。一些演绎规则，例如假言附加式，是早期研究的主要重点。评估也是在演示中进行的，这意味着测试用例与上下文演示的分布相同。 纽约大学、谷歌和波士顿大学的研究人员进行的一项新研究探讨了LLMs能否推广到比演示更复杂的证明。学术界根据三个维度对证明进行分类： 在演示的每个阶段使用的前提数量。 构成证明的顺序步骤的长度。 所使用的演绎规则。 总大小是这三个维度的函数。 该团队在两个重要方面对之前的研究进行了扩展，以评估LLMs的一般演绎推理能力。除了假言附加式外，他们测试LLMs是否掌握了所有演绎规则。他们的推理能力通过以下两种方式进行测试： 深度和宽度的推广涉及对比上下文示例提供的较长证明进行推理。 组合推广涉及在单个证明中使用大量的演绎规则。 根据他们的研究，推理任务在接受展示各种演绎规则的基本示例时最受益于上下文学习。为了防止模型过拟合，这些上下文示例必须包含它不熟悉的推导原则，例如分情况证明和反证法。此外，这些示例应该伴随有干扰项。 根据他们的发现，CoT可以使LLMs进行超领域推理，推广到组合证明。这些LLMs包括GPT-3.5 175B、PaLM 540B、LLaMA 65B和FLAN-T511B，其规模和训练目标各异。这一发现令人惊讶，考虑到大量文献主张LLMs缺乏组合泛化能力。ICL的泛化方式与监督学习不同，特别是在上下文样本上进行的梯度下降。明显地，使用与测试示例相同分布的上下文样本是更差的，因为它们在多个实例中被发现。例如，当上下文示例中包含特定演绎规则时，研究人员有时看到了更好的组合证明泛化效果。 似乎预训练并不能教育模型创建假设的子证明。没有明确的示例，LLMs无法推广到某些演绎规则（例如分情况证明和矛盾证明）。模型规模与性能之间的关系较弱。通过定制指导和更多的预训练，较小的模型（不是最小的，但可比较）可以与较大的模型竞争。 为了进一步了解ICL和CoT触发过程，研究人员指出了一个关键的领域需要今后进行研究。他们发现，最好的上下文示例通常来自于与测试示例本身不同的分布，即使是对于特定的测试示例。贝叶斯推理和梯度下降并不能解释这一点。他们有兴趣研究是否简单的示例效果更好，即使测试案例稍微复杂。需要进一步研究来了解如何更进一步地表征从特定实例进行推广。

著名的大型语言模型（LLMs）如GPT，BERT，PaLM和LLaMA在自然语言处理（NLP）和自然语言生成（NLG）领域取得了一些重大进展。这些模型在大型文本语料库上进行了预训练，并在多个任务中表现出令人难以置信的性能，包括问答，内容生成，文本摘要等。 虽然LLMs已被证明能够处理纯文本，但在文本数据与图形的结构信息相连的应用中，处理图形推理任务变得越来越必要。研究人员一直在研究LLMs如何应用于基本图形推理任务，包括匹配子图，最短路径和连接推理。与LLMs的整合相关的图形应用包括纯图形，文本丰富的图形和文本配对的图形，具体的技术包括将LLMs用作任务预测器，图形神经网络（GNNs）的特征编码器或与GNNs对齐器，具体取决于它们的功能和与GNNs的交互。 LLMs在基于图形的应用中越来越受欢迎。但是，鲜有研究探讨LLMs和图形之间的相互作用。在最近的研究中，一组研究人员提出了一种系统地概述了大型语言模型与图形整合的情况和方法。目的是将可能的情况分为三个主要类别：文本丰富的图形，文本配对的图形和纯图形。团队分享了使用LLMs在图形上的具体方法，例如将LLMs用作对齐器，编码器或预测器。每种策略都有其优势和缺点，研究的目的是对比这些不同的方法。 该团队强调了这些技术的实际应用，展示了在与图形相关的活动中使用LLMs的好处。该团队分享了有关基准数据集和开源脚本的信息，以帮助应用和评估这些方法。结果强调了对这一快速发展领域进行更多调查和创造性的需求。 该团队总结了他们的主要贡献如下。 该团队通过系统分类使用语言模型在图形中的情况进行了贡献。这些情况被分为三类：文本丰富，文本配对和纯图形。这个分类法提供了一个理解这些不同环境的框架。 使用图形方法仔细分析了语言模型。评估总结了适用于各种图形环境的代表性模型，使其成为最全面的评估。 整理了与语言模型在图形上相关的大量材料，包括真实世界应用，开源代码库和基准数据集。 在语言模型在图形领域进一步研究方向上提出了六个可能的方向，深入探讨了基本理念。

多功能调用任务在使用LLMs时可能会变慢且不准确。为了解决这个问题，来自UC Berkeley、ICSI和LBNL的研究人员开发了LLMCompiler，这是一个旨在提高LLMs在此类任务中的效率和准确性的框架。LLMCompiler通过其组件：LLM Planner、任务获取单元和执行器，实现了函数调用的并行执行。 LLMCompiler是一个使LLMs能够进行并行函数调用的框架，提高了多功能任务的效率和准确性。由LLM Planner、任务获取单元和执行器组成的LLMCompiler，在基准测试中优于ReAct和OpenAI的并行函数调用功能，显示出一致的延迟加速和准确性改进。兼容开源模型如LLaMA-2和OpenAI的GPT模型，LLMCompiler解决了LLM的局限性，如知识截断和算术技能，为执行函数调用提供了优化的解决方案。该框架是开源的，便于进一步的研究和开发。 最近LLM的进展将其能力扩展到执行函数调用，克服了其固有的限制。由LLM Planner、任务获取单元和执行器组成的LLMCompiler优化了函数调用的编排。基准测试结果表明，与ReAct和OpenAI的并行函数调用相比，延迟、成本和准确性都有持续的提升。 LLMCompiler是一个用于LLMs中并行函数调用的框架，包括LLM Planner、任务获取单元和执行器。LLM Planner制定执行策略，任务获取单元调度和更新任务，执行器并行执行任务。兼容开源模型如LLaMA-2和OpenAI的GPT，LLMCompiler比ReAct具有延迟加速、成本节约和准确性改进。支持动态重新计划以实现自适应执行，该开源框架提供了在LLMs中高效编排多功能调用任务的解决方案。 在各种任务上进行基准测试，包括复杂的依赖关系和动态重新计划需求，LLMCompiler始终优于ReAct，在延迟加速上可达到3.7倍，节约成本可达6.7倍，准确性提高9%。在24点游戏基准测试中，LLMCompiler与Tree-of-Thoughts相比，实现了2倍的加速，并且在与OpenAI的并行函数调用功能相比时取得了高达1.35倍的延迟增益。开源代码便于进一步的探索和开发。 总之，LLMCompiler是一个有前景的框架，可以显著提高LLMs中并行函数调用的效率、成本和准确性。它胜过现有的解决方案，并有潜力在使用LLMs进行大规模任务的软件开发中提供高效和准确的执行。其开源性使开发人员能够利用其优势。 在研究LLMs的操作系统视角时，应进一步探索LLMCompiler。这可能会推动基于LLMs的大规模软件开发的进展。建议在考虑规划和执行延迟时，与ReAct相比，调查使用LLMCompiler能够实现的加速效果。在LLMs中引入并行函数调用，对于高效执行复杂任务具有潜力。LLMCompiler的持续开发和探索可以为基于LLMs的软件的发展做出贡献。

来自Google DeepMind、斯坦福大学和加州大学伯克利分校的研究人员开发了一个名为Code Chain的代码链，旨在解决提高语言模型的代码驱动推理能力的问题。Code Chain鼓励将语义子任务以灵活的伪代码格式化为程序，解释器可以明确捕捉到未定义行为，并交给模拟器（作为“LMulator”）来模拟。Code Chain在使用大型和小型模型时都具有良好的扩展性，并通过以编码思维回答问题来扩大语言模型能够正确回答的推理问题的范围。 类似于Chain of Thought、least-to-most和ScratchPad等工作利用提示来改善推理，通过将任务分解为中间步骤或跟踪中间结果来进行。在Github上训练的语言模型被提示编写和执行代码，这有助于解决涉及数字或符号推理的复杂问题。 为了解决给定的问题，Code Chain在代码结构中生成推理子步骤。这段代码提供了推理的框架，可以是明确的代码、伪代码或自然语言形式。Code Chain通过将代码的优点与语言模型的强大语义和常识知识相结合，使代码在全新的领域中得以使用，可以轻松表达在代码中难以表达的规则（例如，哪些食物是水果？）。 Code Chain的核心贡献不仅仅是生成推理代码，而是如何执行它。代码编写完毕后，尝试通过代码解释器执行代码-在这项研究中，研究人员考虑了Python，但这种方法对任何解释器都是通用的。如果代码成功执行，则更新程序状态并继续执行。如果代码无法执行或引发任何异常，则使用语言模型来模拟执行。语言模型的输出更新程序状态，并继续执行。 Code Chain方法的整体性能优于其他方法，在超过的任务数量和整体超过基准线的数量上超过人类基准线。Code Chain在几项研究中取得了最新成果。与Chain of Thought提示相似，随着模型大小的增加，性能有所提高。跨任务提示导致所有方法的性能下降，但Code Chain在大规模上仍然优于Chain of Thought和直接提示，接近人类的平均性能。 Code Chain是通过编写代码和使用解释器执行代码或使用模拟执行的语言模型，以在语言模型中进行推理的方法。Code Chain可以利用规则的表达结构和强大的工具。此外，通过模拟非可执行代码的执行，Code Chain可以应用于正常情况下不涉及代码的问题（例如，语义推理问题）。

大型语言模型（LLMs）是人工智能（AI）和深度学习领域的最新创新。像GPT、PaLM、LLaMa等等这些知名的LLMs在生成内容方面展示了令人难以置信的潜力。从问答和文本摘要到语言翻译和代码补全，这些模型可以做很多事情。包括ChatGPT在内的这些模型都经过了对广阔无监督文本语料库的广泛预训练。然而，最近的研究表明，细调整的常用做法可能并不像之前认为的那样必要。 对齐调整，即改进基本LLMs以用作开放领域AI助手的过程，已被接受为行业标准。这包括人工反馈强化学习（RLHF）和监督微调（SFT）。这一标准在一项名为LIMA的研究中受到了质疑，该研究表明，仅仅使用1000个样本进行SFT可能就足以实现有意义的对齐性能。 LIMA提出的表面对齐假设认为，对齐调整不是根本改变基本LLMs的行为，而是训练它们选择适用于用户参与的特定数据格式。这表明，只需几个样例就可以在监督微调下产生高质量的对齐模型。 由于至今还没有足够的研究为表面对齐理论提供坚实的支持，来自艾伦人工智能研究所和华盛顿大学的研究人员最近在一篇论文中讨论了对齐调整的广泛应用技术，以将基本LLMs转化为实用的开放领域AI助手。通过人工反馈的强化学习完成了偏好调整，并通过监督微调完成了指令学习。 该团队通过检查基本LLMs与其对齐的版本（如Llama-2和Llama-2-chat）之间的令牌分布变化，以研究对齐调整的影响。他们发现基本LLMs和其对齐版本在大多数位置的解码中共享排名靠前的令牌，并表现出几乎相同的性能。对话标记和安全声明是最受分布波动影响的样式令牌的例子。这项研究为假设提供了有说服力的证据，即对齐调整主要集中于融入AI助手的语言风格，而基本LLMs提供了响应用户查询所需的信息。 该团队还针对这些发现提出了一个研究课题：在没有SFT或RLHF的情况下，基本LLMs可以进行多大程度的对齐调整？他们提出了URIAL（未调整的LLMs与重新设计的上下文对齐），这是一种不需要调整的对齐技术。只需三个连续的样式示例和一个系统提示，URIAL通过基本LLMs的上下文学习（ICL）单独完成有效的对齐。 在一系列称为just-eval-instruct的实例中，该团队提供了详细易懂的分析，显示基于URIAL的基本LLMs的性能可以与或优于基于SFT（Mistral-7b-Instruct）或SFT+RLHF（Llama-2-70b-chat）进行对齐的LLMs。结果表明，有意识的提示和上下文学习可以显著缩小无调整与基于调整的对齐策略之间的差距。 总之，评估结果突出了浅层对齐调整，并表明它主要涉及采用语言风格并依赖于基本LLMs的现有知识。

这项研究解决了Claude 2.1功能中的一个固有挑战：其不愿根据其覆盖的200K令牌上下文窗口中的单个句子回答问题的问题。这种犹豫在最大化模型的回忆能力方面构成了一个重大障碍，促使了解决方案的探索。 对当前方法的检查揭示了Claude 2.1在面对有关单个句子的问题时的犹豫，尤其是那些被视为不合适的问题。作为回应，Anthropic的研究人员介绍了一个令人惊讶地有效的解决方案：添加一个提示。他们建议将句子“这是上下文中最相关的句子：”并入提示中。这个看似微小的调整，类似于一个元命令，极大地增强了模型的召回能力。 添加的提示作为指令，指示Claude 2.1优先处理相关的句子。这种方法有效地解决了模型对看似不合适句子问题的犹豫。性能改进通过一个实验证明：在200K上下文窗口评估中，Claude的分数从27%跃升到了令人印象深刻的98%。 值得注意的是，在提供了这个提示后，单个句子查询的准确性出现了显著增加。重要的是，这种对单个句子查询准确性的增加展示了添加提示对Claude 2.1性能的深远影响。这种显著改进表明了解决方案的实际意义，使得模型能够更好地处理在更大上下文中的孤立句子查询。 总之，这个有创意的解决方案解决了Claude 2.1的犹豫，通过添加一个提示增加了召回能力的70%。研究团队的发现提供了关于提示的微妙动态及其对语言模型行为的重大影响的宝贵见解。随着人工智能社区寻求提高大型语言模型的精确性，这一发现成为一个重要的进展，对改进其功能具有实际意义。 这篇文章最初发表于MarkTechPost上，转自最近的Anthropic研究表明，通过单个提示的添加，可以将LLMs的召回能力提高70%：通过战略提示释放Claude 2.1的力量。