如今，像Hugging Face这样的平台使得从AI研究人员到机器学习经验有限的用户都能够更轻松地访问和利用预训练的大型语言模型(LLM)来为不同实体服务。当多个这样的组织或实体在共享类似的任务时，由于隐私法规的限制而无法直接交换本地数据时，联邦学习（FL）成为利用这些实体的集体数据的显著解决方案。FL还提供了强大的隐私保护，保护其模型思想的安全，并允许他们使用不同的方法创建定制模型。
在这项工作中，研究人员建立了一个全面的端到端基准测试流水线，简化了数据集预处理、执行或模拟联邦微调以及在联邦大型语言模型（LLM）微调环境中评估性能的过程，旨在为各种能力演示目的设计。
上述图片展示了FS-LLM的架构，包括三个主要模块：LLMBENCHMARKS、LLM-ALGZOO和LLM-TRAINER。团队已经开发了强大的联邦参数高效微调（PEFT）算法的实现和多功能的编程接口，以便未来的扩展，即使处理闭源LLM，也能够在联邦学习（FL）场景中有效地运行LLM，减少通信和计算开销。
他们的网站上提供了详细的教程：federatedscope.io
您可以通过FederatedScope Playground或Google Colab尝试FederatedScope。
他们的方法还结合了加速技术和资源有效的策略，以在资源约束下微调LLM，并提供灵活的可插拔子例程，用于跨学科研究，例如在个性化联邦学习设置中应用LLM。
该研究包括一系列广泛且可再现的实验证明了FS-LLM的有效性，并在联邦环境中使用最先进的参数高效微调算法建立了先进LLM的基准。根据这些实验结果的发现，我们概述了未来联邦LLM微调研究的一些有希望的方向，以推进FL和LLM社区的发展。