Month: November 2023

虽然像GPT-4和LLaMA这样的大型语言模型正在快速重新塑造现代应用，但它们的推理速度较慢且很难优化，因为它们是基于自回归解码的。LLM的请求延迟主要取决于请求的答案长度，或者等效地说，解码步骤的数量，因为每个自回归解码步骤一次只产生一个标记。不幸的是，当前的GPU并行处理能力通常没有得到充分利用，因为每个解码步骤没有利用它。这对于许多实际的LLM应用（如聊天机器人和个人助理）来说是个问题，它们依赖于即时响应，并因此经常产生具有低延迟的大序列。 自回归解码可以通过使用像Medusa和OSD这样的猜测解码方法加速，这些方法使用“猜测和验证”的策略，其中初步模型对未来的几个可能标记进行预测，然后原始LLM并行地检查这些预测。这些方法可以通过利用需要更少解码步骤时的情况来减少延迟。然而，它们也有一些限制。首先，标记接受率，或者等效地说，草稿模型正确预测主模型输出的能力，是基于猜测解码方法能够实现的最大速度增加的上界。其次，开发可靠的初步模型并不容易，通常需要更多的训练和精心调整来应对随时间变化的流量变化。 LMSYS ORG的一项新研究提出了前瞻解码，这是一种新颖的精确解码技术，用于解决这些困难。虽然在单个步骤中解码许多连续标记在计算上是不可行的，但观察到LLM可以同时生成多个正交n-gram。这些n-gram有可能适应所创建序列的未来部分。传统的雅可比迭代方法被改进为并行解码，这样可以将自回归解码视为非线性方程的解。生成的n-gram被记录、检查，然后（如果合适）被并入序列。前瞻解码特别值得注意的是： 它不使用初步模型，从而加速了推出速度。 对于每个阶段，通过log(FLOPs)因子减少了总解码步骤的数量。 研究人员证明了前瞻解码显著降低了延迟，达到了1.5倍到2.3倍的减少，而几乎没有增加计算负担。最重要的是，它允许在处理方面的权衡来减少延迟，尽管收益递减。 研究人员已经创建了他们的实现，使前瞻解码与huggingface/transformers配合使用。HuggingFace提供了一个本地生成的函数，但用户可以通过几行代码显著提高其效率。 雅可比迭代是一种解决非线性系统的历经验证的技术。LLM推理也可以用于并行生成标记，而无需预训练模型。由于雅可比解码的每个步骤都涉及对>1个标记的LLM前向计算，因此从所需的FLOPs角度来看，它比每个自回归解码步骤更昂贵。研究人员观察到，在尝试显着提高雅可比解码在实际应用中的墙钟性能时可能会遇到几个困难。虽然它可以在一系列步骤中解码多个标记，但它通常会错误地排列它们的顺序。即使正确地预测，标记也经常在下一个周期被替换。因此，很少有迭代成功地同时解码和正确放置多个标记。由于这一点，使用并行解码的整个目的被取消了。通常，它不会导致性能下降，因为图形处理单元具有并行处理能力。 前瞻解码可以通过利用雅可比解码生成并行n-gram的能力来避免其缺点。在一个位置处，每个新标记都是使用之前迭代中该位置的值进行解码，就像雅可比解码中一样。由于这个过程，会形成许多n-gram，这在每个标记位置上建立了历史标记的时间线。为了使用这些，前瞻解码将根据它们的轨迹收集和缓存这些n-gram。前瞻解码同时从缓存中检查有希望的n-gram，并使用雅可比迭代进行未来标记的并行解码。 每个前瞻解码阶段都被分为两个平行分支——前瞻分支和验证分支，以提高效率。为了从雅可比迭代轨迹中生成n-gram，前瞻分支保持一个大小恒定的二维窗口。同时，验证分支选择并检查显示潜力的n-gram候选项。 由于内存带宽是LLM解码的主要瓶颈，研究人员将前瞻分支和验证分支合并为单个传递，利用GPU的并行处理能力，同时隐藏任何相关的开销。 团队对LLaMA-2-Chat和CodeLLaMA在MT-bench、HumanEval和GSM8K上的不同尺寸进行了测试，以了解他们的前瞻解码技术的有效性。前瞻解码技术可以提供速度提升，无需微调或预备模型。在fp16精度下，他们在单个A100 GPU上评估了7B、13B和33B模型，以及在两个A100 GPU上使用流水线并行性评估了70B模型。 MT-Bench LLaMA讨论：在许多模型配置中，前瞻解码所实现的加速比约为1.5倍。 HumanEval的CodeLLaMA：在HumanEval上使用前瞻解码时，CodeLLaMA的延迟时间缩短了两倍以上。这是因为代码中包含了许多容易猜测的N-gram。 GSM8K的教学CodeLLaMA：通过前瞻解码，CodeLLama-Instructor在GSM8K的数学挑战中将延迟时间缩短了1.8倍。 本文《‘前瞻解码’：一种并行解码算法加速LLM推断》首发于MarkTechPost。

大型语言模型（LLMs）最近受到人工智能（AI）界的广泛赞赏。这些模型具有卓越的能力，在编码、数学、法律乃至理解人类意图和情感等领域都表现出色。基于自然语言处理、理解和生成的基本原理，这些模型在几乎每个行业中都具有巨大的潜力。 LLMs不仅能生成文本，还能进行图像处理、音频识别和强化学习，证明了它们的适应性和广泛的应用领域。由OpenAI最近推出的GPT-4因其多模态特性而变得非常受欢迎。与GPT 3.5不同，GPT-4既可以接受文本形式的输入，也可以接受图像形式的输入。一些研究甚至显示，GPT-4展示了人工通用智能（AGI）的初步证据。GPT-4在通用AI任务中的有效性已经引起科学家和研究人员对LLMs在不同科学领域的关注。 在最新的研究中，一支研究团队研究了LLMs在自然科学研究背景下的能力，特别关注于GPT-4。该研究主要关注生物学、材料设计、药物开发、计算化学和偏微分方程等自然科学领域，以涵盖广泛的自然科学。利用GPT-4作为深入研究的LLM，该研究提供了关于LLMs的性能和其在特定科学领域中可能应用的全面概述。 该研究涵盖了多个科学学科领域，如生物学、材料设计、偏微分方程、密度泛函理论和分子动力学在计算化学中的应用。团队分享称，已经对该模型在科学任务上进行了评估，以充分实现GPT-4在研究领域中的潜力，并验证其领域专业知识。LLM应加速科学进展，优化资源分配，并促进跨学科研究。 研究团队分享称，根据初步结果，GPT-4已经显示出在一系列科学应用中有潜力，并展示了其处理复杂问题解决和知识整合任务的能力。该研究论文对GPT-4在多个领域的表现进行了全面考察，既强调了其优势，也指出了其劣势。评估包括GPT-4的知识库、科学理解能力、数值计算技能和多样化预测能力。 研究表明，GPT-4在生物学和材料设计领域显示出广泛的领域专长，有助于满足某些需求。该模型展现了在药物研发领域预测属性的潜力。GPT-4在计算化学和偏微分方程研究领域中也有助于计算和预测，但对于定量计算任务，需要稍稍提高准确性。 总之，这项研究非常具有启发性，因为它突显了大规模机器学习和LLMs的快速发展。它还关注了这一充满活力的课题未来研究的重点，即基本科学模型的构建以及LLMs与专业科学工具和模型的集成。