Tag: Artificial intelligence

使用大量推理规则和构建子证明的就业使得证明的复杂性在许多演绎推理任务中无限发展，例如医学诊断或定理证明。由于巨大的证明空间，不可能找到覆盖所有大小保证的数据。因此，从基本证明开始，通用推理模型应能够推广到更复杂的证明。 纽约大学和谷歌AI研究人员的一个团队证明，LLMs在接受上下文学习（ICL）和思维链（CoT）提示的训练后可以进行演绎推理。一些演绎规则，例如假言附加式，是早期研究的主要重点。评估也是在演示中进行的，这意味着测试用例与上下文演示的分布相同。 纽约大学、谷歌和波士顿大学的研究人员进行的一项新研究探讨了LLMs能否推广到比演示更复杂的证明。学术界根据三个维度对证明进行分类： 在演示的每个阶段使用的前提数量。 构成证明的顺序步骤的长度。 所使用的演绎规则。 总大小是这三个维度的函数。 该团队在两个重要方面对之前的研究进行了扩展，以评估LLMs的一般演绎推理能力。除了假言附加式外，他们测试LLMs是否掌握了所有演绎规则。他们的推理能力通过以下两种方式进行测试： 深度和宽度的推广涉及对比上下文示例提供的较长证明进行推理。 组合推广涉及在单个证明中使用大量的演绎规则。 根据他们的研究，推理任务在接受展示各种演绎规则的基本示例时最受益于上下文学习。为了防止模型过拟合，这些上下文示例必须包含它不熟悉的推导原则，例如分情况证明和反证法。此外，这些示例应该伴随有干扰项。 根据他们的发现，CoT可以使LLMs进行超领域推理，推广到组合证明。这些LLMs包括GPT-3.5 175B、PaLM 540B、LLaMA 65B和FLAN-T511B，其规模和训练目标各异。这一发现令人惊讶，考虑到大量文献主张LLMs缺乏组合泛化能力。ICL的泛化方式与监督学习不同，特别是在上下文样本上进行的梯度下降。明显地，使用与测试示例相同分布的上下文样本是更差的，因为它们在多个实例中被发现。例如，当上下文示例中包含特定演绎规则时，研究人员有时看到了更好的组合证明泛化效果。 似乎预训练并不能教育模型创建假设的子证明。没有明确的示例，LLMs无法推广到某些演绎规则（例如分情况证明和矛盾证明）。模型规模与性能之间的关系较弱。通过定制指导和更多的预训练，较小的模型（不是最小的，但可比较）可以与较大的模型竞争。 为了进一步了解ICL和CoT触发过程，研究人员指出了一个关键的领域需要今后进行研究。他们发现，最好的上下文示例通常来自于与测试示例本身不同的分布，即使是对于特定的测试示例。贝叶斯推理和梯度下降并不能解释这一点。他们有兴趣研究是否简单的示例效果更好，即使测试案例稍微复杂。需要进一步研究来了解如何更进一步地表征从特定实例进行推广。

“`html 在不断发展的技术进步领域中，语言模型已成为不可或缺的一部分。这些由先进的人工智能驱动的系统增强了我们与数字平台的互动。语言模型旨在理解和生成类似人类的文本，弥合了人类沟通与机器理解之间的差距。技术的进步引领着一个数字时代，语言模型在信息处理、沟通和问题解决中扮演越来越重要的角色。 最近，Deci推出了DeciLM-7B，这是一种具有高精度和速度的创新模型，适用于70亿参数级别。这个模型在Apache 2.0许可下，处于新一代语言模型的前沿，拥有70亿参数级别中无与伦比的准确性和速度。该模型是语言处理领域的一种增量革新和变革性力量。 在“开放语言模型排行榜”上，DeciLM-7B显示出令人印象深刻的平均得分为61.55。这表明DeciLM-7B是70亿参数级别中最先进的基础语言模型，提供了在各种应用中改进的准确性和可靠性。Mistral 7B在诸多基准测试中表现优异，包括Arc、HellaSwag、MMLU、Winogrande和GSM8K等。 DeciLM-7B不仅准确，而且速度出色。与Mistral 7B相比，它的吞吐量增加了83%，与Llama 2 7B相比增加了139%。DeciLM-7B提高了语言模型的效率标准。PyTorch基准测试突显了其在吞吐量上优于Mistral 7B和Llama 2 7B，分别显示出1.83倍和2.39倍的增加。 DeciLM-7B与Infery和Dec开发的推理SDK相互协作，相对于具有vLLM的Mistral 7B，能够提供4.4倍的速度提升，为成本效益高、大量用户交互提供机会。 DeciLM-7B利用NAS的引擎AutoNAC。该模型采用了变量分组查询注意力。在顶级的70亿参数大型语言模型中，该模型在没有复杂的偏好优化方法的情况下表现出色。研究人员强调，DeciLM-7B和Infery-LLM具有在多个行业引发革命性变革的潜力。它们在提供实时聊天机器人的高容量客户服务方面提升了智能度、响应度和可负担性，并在医疗、法律、市场营销和金融等文本密集型专业领域中实现了工作流自动化的革新。 总之，DeciLM-7B在大型语言模型中具有重要作用。它不仅在准确性和效率方面出类拔萃，还在可访问性和多功能性方面表现出众。随着技术的不断进步，像DeciLM-7B这样的模型在塑造数字世界方面变得更加重要。它们给我们提供了一个令人兴奋的前景，展示了无数未来可能性的一瞥。随着技术的进步，这些模型变得越来越重要，为我们提供了数字领域中众多选择的引人入胜且广阔的预览。 “`

大型语言模型领域迎来了一个重要的跨越，Mixtral 8x7b的到来。Mistral AI开发了这个具有卓越能力和独特架构的新模型。它用稀疏的Expert混合（MoE）层取代了前馈层，这是变换器模型中的一种创新方法。 Mixtral 8x7b 在一个框架内拥有八个专家模型。这个模型是一个专家混合模型（MoE），使Mixtral能够实现卓越的性能。 专家混合技术可以使模型的预训练所需的计算能力大大减少。这意味着可以显著增加模型或数据集的大小而不增加计算预算。 在MoE层中引入了路由器网络，它可以高效选择处理哪些令牌的专家。尽管与含有12B参数的密集模型相比，Mixtral的模型拥有四倍的参数，但由于每个时间步选择了两个专家，因此可以快速解码。 Mixtral 8x7b具有32,000个令牌的上下文长度容量，优于Llama 2 70B，并在各种基准测试中展现出与GPT3.5相媲美或更好的结果。研究人员表示，该模型具有适用于各种应用的多功能性。它可以多语言操作，并展现其在英语、法语、德语、西班牙语和意大利语方面的流利性。其编码能力也非常出色；在HumanEval测试中得分40.2%，巩固了它作为一个全面的自然语言处理工具的地位。 Mixtral Instruct在MT-Bench和AlpacaEval等行业标准上表现出色。它在MT-Bench上的表现超过其他公开模型，并与GPT-3.5相匹配。尽管参数达到70亿，但该模型的性能类似于八个模型的集合。虽然它可能没有达到560亿参数的规模，但总参数数约为450亿。此外，Mixtral Instruct在指导和聊天模型领域表现出色，表达了其优势。 Mixtral Instruct的基本模型没有与其他基本模型对齐的特定提示格式。这种灵活性允许用户顺畅地扩展输入序列，获得合理的延续或将其用于零样本/少样本推理。 然而，有关预训练数据集的维度、组成和预处理方法的完整信息仍需进一步提供。同样，仍不知道对Mixtral instruct模型的DPO（域预提供目标）和SFT（部分微调）使用了哪些微调数据集和相关超参数。 总结一下，Mixtral 8x7b通过结合性能、适应性和创造力改变了语言模型的游戏规则。当AI社区继续研究和评估Mistral的架构时，研究人员迫切希望看到这种先进语言模型的影响和应用。MoE的8x7B能力可能为科学研究和发展、教育、医疗保健和科学开辟新的机遇。 这篇文章Meet Mixtral 8x7b: The…

训练大型变压器模型面临重大挑战，尤其是在追求具有数十亿甚至数万亿参数的模型时。主要障碍在于如何在多个GPU上高效分配工作负载，同时减轻内存限制。当前的情况依赖于复杂的大型语言模型（LLM）扩展框架，如Megatron、DeepSpeed、NeoX、Fairscale和Mosaic Foundry。然而，随着模型大小的增加，这些框架引入了相当大的复杂性。讨论的研究介绍了Cerebras的gigaGPT作为解决这些挑战的新颖方法，提供了一种消除对复杂并行化技术的需要的替代方法。 对于训练大型变压器模型，像Megatron和DeepSpeed这样的方法依赖于多GPU之间的分布式计算。然而，随着模型大小超过几十亿个参数，这些方法会遇到内存限制，需要复杂的解决方案。相比之下，Cerebras的gigaGPT引入了一种范式转变。它实现了nanoGPT，它具有仅565行的非常紧凑的代码库。这个实现可以训练具有超过1000亿个参数的模型，而无需额外的代码或依赖第三方框架。GigaGPT利用了Cerebras硬件的大量内存和计算能力。与其同行不同的是，它可以无缝操作而不引入额外的复杂性，既提供了简洁可靠的代码库，又能够训练GPT-3规模的模型。 GigaGPT在其核心是实现了基本的GPT-2架构，与nanoGPT的原则紧密对齐。它使用了学习的位置嵌入、标准的自注意力机制、模型中的偏置以及模仿nanoGPT的结构的选择。值得注意的是，该实现不仅适用于特定的模型大小；gigaGPT通过训练具有111M、13B、70B和175B个参数的模型，证明了它的多功能性。 与GPT-2分词器和nanoGPT的预处理代码配合使用的OpenWebText数据集成为测试基础。GigaGPT的性能得到了证明，它可以从数百万个参数的模型扩展到具有数百亿个参数的模型，而不需要专门的并行化技术。这565行代码涵盖了整个代码库，展示了其简单和高效。 该实现的成功在特定的模型配置中得到了进一步的体现。例如，111M配置与Cerebras-GPT相一致，保持了相同的模型维度、学习率、批量大小和训练计划。类似地，13B配置与相应的Cerebras-GPT配置相匹配，70B配置借鉴了Llama-2 70B。70B模型保持了稳定性和性能，展示了其可扩展性。在验证了70B模型之后，研究人员通过配置基于GPT-3论文的175B模型来推动界限。最初的步骤展示了该模型在处理增加的规模时的内存问题，暗示了gigaGPT可能扩展到超过1万亿个参数的模型。 总之，gigaGPT成为训练大型变压器模型的一项突破性解决方案。研究团队的实施不仅通过提供简洁和易于操作的代码库简化了过程，还使得训练GPT-3规模的模型成为可能。利用Cerebras硬件的广阔记忆和计算能力，标志着在使大规模AI模型训练更加可访问、可扩展和高效方面的重要进步。这种创新的方法为机器学习研究人员和从业者解决训练大规模语言模型中的复杂性提供了一个有前途的途径。 Introducing gigaGPT: our implementation of @karpathy’s nanoGPT that trains GPT-3 sized models in just 565 lines of…

著名的大型语言模型（LLMs）如GPT，BERT，PaLM和LLaMA在自然语言处理（NLP）和自然语言生成（NLG）领域取得了一些重大进展。这些模型在大型文本语料库上进行了预训练，并在多个任务中表现出令人难以置信的性能，包括问答，内容生成，文本摘要等。 虽然LLMs已被证明能够处理纯文本，但在文本数据与图形的结构信息相连的应用中，处理图形推理任务变得越来越必要。研究人员一直在研究LLMs如何应用于基本图形推理任务，包括匹配子图，最短路径和连接推理。与LLMs的整合相关的图形应用包括纯图形，文本丰富的图形和文本配对的图形，具体的技术包括将LLMs用作任务预测器，图形神经网络（GNNs）的特征编码器或与GNNs对齐器，具体取决于它们的功能和与GNNs的交互。 LLMs在基于图形的应用中越来越受欢迎。但是，鲜有研究探讨LLMs和图形之间的相互作用。在最近的研究中，一组研究人员提出了一种系统地概述了大型语言模型与图形整合的情况和方法。目的是将可能的情况分为三个主要类别：文本丰富的图形，文本配对的图形和纯图形。团队分享了使用LLMs在图形上的具体方法，例如将LLMs用作对齐器，编码器或预测器。每种策略都有其优势和缺点，研究的目的是对比这些不同的方法。 该团队强调了这些技术的实际应用，展示了在与图形相关的活动中使用LLMs的好处。该团队分享了有关基准数据集和开源脚本的信息，以帮助应用和评估这些方法。结果强调了对这一快速发展领域进行更多调查和创造性的需求。 该团队总结了他们的主要贡献如下。 该团队通过系统分类使用语言模型在图形中的情况进行了贡献。这些情况被分为三类：文本丰富，文本配对和纯图形。这个分类法提供了一个理解这些不同环境的框架。 使用图形方法仔细分析了语言模型。评估总结了适用于各种图形环境的代表性模型，使其成为最全面的评估。 整理了与语言模型在图形上相关的大量材料，包括真实世界应用，开源代码库和基准数据集。 在语言模型在图形领域进一步研究方向上提出了六个可能的方向，深入探讨了基本理念。

总部位于巴黎的初创公司Mistral AI推出了一款语言模型——MoE 8x7B。Mistral LLM经常被比作缩小版的GPT-4，它由8个拥有每个拥有70亿参数的专家组成。值得注意的是，在每个记号的推理中，只有其中的2个专家会被使用，展示了一种简化而高效的处理方式。 该模型采用混合专家（MoE）架构，以实现令人印象深刻的性能和效率。与传统模型相比，这使得性能更高、效率更优。研究人员强调，MoE 8x7B在文本生成、理解以及需要高级处理的编码和SEO优化等任务方面，表现比之前的模型（例如Llama2-70B和Qwen-72B）更好。 这在AI社区引起了很大轰动。著名的AI咨询师和以色列机器学习和深度学习社区的创始人表示，Mistral以此类发布闻名，并将其视为业界的特色。开源AI倡导者Jay Scambler指出了发布的不寻常之处。他表示，它成功地引起了极大关注，暗示这可能是Mistral故意采取的一种策略，以吸引AI社区的关注和好奇。 Mistral在AI领域的发展过程中也取得了里程碑式的成就，包括拿下创纪录的1.18亿美元种子轮融资，该轮融资被报道为欧洲历史上最大的融资规模。该公司在9月推出了其首个大型语言AI模型Mistral 7B，进一步获得了认可。 MoE 8x7B模型拥有8个专家，每个专家拥有70亿参数，相比之下，GPT-4每个专家拥有16个专家和1660亿参数。与估计的GPT-4的1.8万亿参数相比，该模型的估计总参数为420亿。此外，MoE 8x7B对语言问题有更深入的理解，从而改进了机器翻译、聊天机器人交互和信息检索。 MoE架构允许更高效的资源分配，从而实现更快的处理速度和更低的计算成本。Mistral AI的MoE 8x7B标志着语言模型发展的重大进步。其卓越的性能、效率和多样性为各个行业和应用领域带来了巨大的潜力。随着AI的不断发展，像MoE 8x7B这样的模型预计将成为寻求增强数字专长和内容策略的企业和开发者的重要工具。 总之，Mistral AI的MoE 8x7B发布引入了一种结合了技术复杂性和非传统营销策略的新颖语言模型。研究人员对这种尖端语言模型的效果和用途感到兴奋，AI社区将继续审查和评估Mistral的架构。MoE 8x7B的能力可能会为教育、医疗保健和科学发现等各个领域的研究和发展开辟新的道路。