训练大型变压器模型面临重大挑战，尤其是在追求具有数十亿甚至数万亿参数的模型时。主要障碍在于如何在多个GPU上高效分配工作负载，同时减轻内存限制。当前的情况依赖于复杂的大型语言模型（LLM）扩展框架，如Megatron、DeepSpeed、NeoX、Fairscale和Mosaic Foundry。然而，随着模型大小的增加，这些框架引入了相当大的复杂性。讨论的研究介绍了Cerebras的gigaGPT作为解决这些挑战的新颖方法，提供了一种消除对复杂并行化技术的需要的替代方法。
对于训练大型变压器模型，像Megatron和DeepSpeed这样的方法依赖于多GPU之间的分布式计算。然而，随着模型大小超过几十亿个参数，这些方法会遇到内存限制，需要复杂的解决方案。相比之下，Cerebras的gigaGPT引入了一种范式转变。它实现了nanoGPT，它具有仅565行的非常紧凑的代码库。这个实现可以训练具有超过1000亿个参数的模型，而无需额外的代码或依赖第三方框架。GigaGPT利用了Cerebras硬件的大量内存和计算能力。与其同行不同的是，它可以无缝操作而不引入额外的复杂性，既提供了简洁可靠的代码库，又能够训练GPT-3规模的模型。
GigaGPT在其核心是实现了基本的GPT-2架构，与nanoGPT的原则紧密对齐。它使用了学习的位置嵌入、标准的自注意力机制、模型中的偏置以及模仿nanoGPT的结构的选择。值得注意的是，该实现不仅适用于特定的模型大小；gigaGPT通过训练具有111M、13B、70B和175B个参数的模型，证明了它的多功能性。
与GPT-2分词器和nanoGPT的预处理代码配合使用的OpenWebText数据集成为测试基础。GigaGPT的性能得到了证明，它可以从数百万个参数的模型扩展到具有数百亿个参数的模型，而不需要专门的并行化技术。这565行代码涵盖了整个代码库，展示了其简单和高效。
该实现的成功在特定的模型配置中得到了进一步的体现。例如，111M配置与Cerebras-GPT相一致，保持了相同的模型维度、学习率、批量大小和训练计划。类似地，13B配置与相应的Cerebras-GPT配置相匹配，70B配置借鉴了Llama-2 70B。70B模型保持了稳定性和性能，展示了其可扩展性。在验证了70B模型之后，研究人员通过配置基于GPT-3论文的175B模型来推动界限。最初的步骤展示了该模型在处理增加的规模时的内存问题，暗示了gigaGPT可能扩展到超过1万亿个参数的模型。
总之，gigaGPT成为训练大型变压器模型的一项突破性解决方案。研究团队的实施不仅通过提供简洁和易于操作的代码库简化了过程，还使得训练GPT-3规模的模型成为可能。利用Cerebras硬件的广阔记忆和计算能力，标志着在使大规模AI模型训练更加可访问、可扩展和高效方面的重要进步。这种创新的方法为机器学习研究人员和从业者解决训练大规模语言模型中的复杂性提供了一个有前途的途径。
Introducing gigaGPT: our implementation of @karpathy’s nanoGPT that trains GPT-3 sized models in just 565 lines of code. 🤯 #NeurIPS2023 pic.twitter.com/rm9GzZg9AF
— Cerebras (@CerebrasSystems) December 11, 2023
本文介绍GigaGPT：Cerebras实现了Andrei Karpathy的nanoGPT, 只需565行代码即可训练GPT-3规模的AI模型 首次发布于 MarkTechPost。