Tag: Machine learning

在不断发展的自然语言处理（NLP）领域中，机器翻译和语言模型的发展主要受到英语等语种的大量训练数据集的影响。然而，研究人员和实践者面临的一个重要挑战是需要更多多样化且高质量的训练数据，以应对不常用语言的需求。这一限制制约了全球各种语言社群NLP技术的进步。为了解决这个问题，一支专门的研究团队着手创建解决方案，最终诞生了MADLAD-400。 要理解MADLAD-400的重要性，我们必须首先审视多语言NLP数据集的当前情况。长期以来，研究人员一直依赖于从许多来源获取的网络抓取数据来训练机器翻译和语言模型。虽然这种方法对于拥有丰富在线内容的语言取得了显著成果，但在处理不常用语言时效果不佳。 MADLAD-400的研究团队认识到了这种传统方法的局限性。他们了解到网络抓取数据往往伴随着一系列挑战。噪音、不准确性和质量不一的内容只是在依赖网络数据时出现的一些问题。此外，当处理数字存在性有限的语言时，这些问题会更加严重。 针对这些挑战，研究团队着手创建一个跨多种语言范围且符合最高质量和道德内容标准的多语言数据集。他们的努力成果就是MADLAD-400，这个数据集承诺重新定义我们为多语言应用训练和开发NLP模型的方式。 MADLAD-400展示了研究团队的专注和细致精神。这个数据集的与众不同之处在于它经历了严格的审计过程。与许多多语言数据集不同，MADLAD-400并不仅仅依赖于自动化的网络抓取。相反，它涉及对419种语言的广泛手动内容审计。 审计过程可谓艰巨。它需要熟练掌握各种语言的人才，因为研究团队需要仔细检查和评估跨语言边界的数据质量。这种亲自动手的方法确保了数据集符合最高质量标准。 研究人员还详细记录了他们的审计过程。这种透明度对于数据集使用者来说是无价的，它提供了关于确保数据质量所采取的步骤的见解。这份文档不仅是指南，也是科学研究中可重复性的基础原则。 除了手动审计外，研究团队还开发了过滤器和检查机制，以进一步提高数据质量。他们识别和解决了版权材料、仇恨言论和个人信息等问题。这种主动的数据清理方法最大程度地减少了不良内容进入数据集的风险，确保研究人员能够自信地工作。 此外，MADLAD-400还体现了研究团队对包容性的承诺。它涵盖了多种语言，为经常在NLP研究中被忽视的语言社群发声。MADLAD-400打开了开发更具包容性和公平性的NLP技术的大门，包括了主流语言之外的语言。 虽然MADLAD-400的创建和策划本身就是令人印象深刻的成就，但这个数据集的真正价值在于它的实际应用。研究团队进行了大量实验，展示了MADLAD-400在训练大规模机器翻译模型方面的有效性。 结果明显。MADLAD-400显著提高了广泛语言范围内的翻译质量，展示了其推动机器翻译领域发展的潜力。该数据集为跨越语言障碍、促进语言交流提供了坚实的基础。 总的来说，MADLAD-400是多语言自然语言处理领域的一个重要成就。通过精心策划和包容性承诺，这个数据集解决了紧迫的挑战，赋予了研究人员和实践者接纳语言多样性的能力。它在追求更具包容性的多语言NLP的征程中扮演着进步的指引，为语言技术服务于全球受众带来了希望。

如今，像Hugging Face这样的平台使得从AI研究人员到机器学习经验有限的用户都能够更轻松地访问和利用预训练的大型语言模型(LLM)来为不同实体服务。当多个这样的组织或实体在共享类似的任务时，由于隐私法规的限制而无法直接交换本地数据时，联邦学习（FL）成为利用这些实体的集体数据的显著解决方案。FL还提供了强大的隐私保护，保护其模型思想的安全，并允许他们使用不同的方法创建定制模型。 在这项工作中，研究人员建立了一个全面的端到端基准测试流水线，简化了数据集预处理、执行或模拟联邦微调以及在联邦大型语言模型（LLM）微调环境中评估性能的过程，旨在为各种能力演示目的设计。 上述图片展示了FS-LLM的架构，包括三个主要模块：LLMBENCHMARKS、LLM-ALGZOO和LLM-TRAINER。团队已经开发了强大的联邦参数高效微调（PEFT）算法的实现和多功能的编程接口，以便未来的扩展，即使处理闭源LLM，也能够在联邦学习（FL）场景中有效地运行LLM，减少通信和计算开销。 他们的网站上提供了详细的教程：federatedscope.io 您可以通过FederatedScope Playground或Google Colab尝试FederatedScope。 他们的方法还结合了加速技术和资源有效的策略，以在资源约束下微调LLM，并提供灵活的可插拔子例程，用于跨学科研究，例如在个性化联邦学习设置中应用LLM。 该研究包括一系列广泛且可再现的实验证明了FS-LLM的有效性，并在联邦环境中使用最先进的参数高效微调算法建立了先进LLM的基准。根据这些实验结果的发现，我们概述了未来联邦LLM微调研究的一些有希望的方向，以推进FL和LLM社区的发展。

随着人工智能领域的不断进步，其子领域，包括自然语言处理、自然语言生成、自然语言理解和计算机视觉，正变得越来越受欢迎。最近引起很多关注的大型语言模型（LLMs）被用作优化器。它们的能力被用于自然语言理解，以增强优化过程。优化在许多不同的行业和背景中具有实际意义。基于导数的优化方法在处理各种问题方面历史上表现良好。 这也带来了一些挑战，因为在实际情况下，梯度可能只有时而可用，这带来了困难的问题。为了解决这些问题，Google DeepMind的研究人员提出了一种名为OPRO（Optimisation by PROmpting）的独特方法作为解决方案。通过使用LLMs作为优化器，OPRO提供了一种简单而强大的技术。在这种情况下，主要的创新点是使用日常语言来表达优化任务，使流程更简单、更易于理解。 OPRO首先通过自然语言描述优化问题。这意味着问题是用简单的语言表达，而不是复杂的数学公式，这样更容易理解。其次，它提供了一个迭代的解决方案生成过程。LLM根据给定的自然语言提示为每个优化步骤创建新的候选解。这个提示是重要的，它包含了先前创建的解以及它们的相关值的详细信息。这些传统选项作为进一步发展的起点。 然后，更新和评估这些解，并评估它们的性能或质量。在经过检查的解后，下一个优化步骤的提示将包含这些解。随着迭代过程的进行，解逐渐改进。一些实际的例子被用来说明OPRO的有效性。首先，OPRO被用来解决两个众所周知的优化问题：线性回归问题和旅行推销员问题。这些问题是显著的，并作为评估该方法有效性的标准。OPRO展示了其识别出这些问题的优秀解的能力。 其次，它被用于提示优化。OPRO不仅仅解决特定的优化问题，还涉及到优化提示本身的问题。目标是找到能够提高任务准确性的指令。这对于涉及自然语言处理的任务尤其重要，因为提示的结构和内容对结果有很大影响。 团队表明OPRO优化的提示通常优于人类创建的提示。在一个例子中，它使Big-Bench Hard工作负载的性能提高了高达惊人的50%，在GSM8K基准测试中提高了8%。这显示了OPRO在改善优化结果方面的巨大潜力。 总之，OPRO提供了一种利用大型语言模型进行优化的革命性方法。OPRO通过用普通语言解释优化任务并反复生成和改进解来展示其在解决常见优化问题和改善提示方面的效率。结果表明，与传统方法相比，尤其是在梯度信息不可用或难以收集的情况下，性能提升显著。

T2I-Adapter是即插即用的工具，可以增强文本到图像模型，而无需进行完整的重新训练，使其比ControlNet等其他替代方案更高效。它们将内部知识与外部信号对齐，实现精确的图像编辑。与要求大量计算资源并减慢图像生成速度的ControlNet不同，T2I-Adapter仅在去噪过程中运行一次，提供更快更高效的解决方案。 模型参数和存储需求清楚地展示了这一优势。例如，ControlNet-SDXL拥有1251亿个参数和2.5 GB的fp16格式存储空间。相比之下，T2I-Adapter-SDXL将参数（7900万）和存储空间（158 MB）大幅减少，分别减少了93.69%和94%。 https://huggingface.co/blog/t2i-sdxl-adapters Diffusers团队与T2I-Adapter研究人员的最新合作为Stable Diffusion XL（SDXL）引入了对T2I-Adapter的支持。这次合作主要集中在从头开始训练SDXL上的T2I-Adapter，并在包括素描、边缘检测、线稿、深度和openpose在内的各种条件因素下取得了令人满意的结果。 训练T2I-Adapter-SDXL使用了来自LAION-Aesthetics V2的300万个高分辨率图像-文本对，训练设置规定了20000-35000步、批量大小为128（数据并行，单个GPU批量大小为16）、常量学习率为1e-5以及混合精度（fp16）。这些设置在速度、内存效率和图像质量之间取得了平衡，使其适用于社区使用。 在Diffusers框架中使用T2I-Adapter-SDXL非常简单，只需按照一系列步骤安装所需的依赖包，包括diffusers、controlnet_aux、transformers和accelerate。随后，使用T2I-Adapter-SDXL进行图像生成主要包括两个步骤：以适当的控制格式准备条件图像，并将这些图像和提示传递给StableDiffusionXLAdapterPipeline。 在实际示例中，加载Lineart Adapter，并对输入图像进行线稿检测。随后，使用定义的提示和参数启动图像生成，允许用户通过”adapter_conditioning_scale”和”adapter_conditioning_factor”等参数来控制应用的条件程度。 总之，T2I-Adapter为ControlNet提供了引人注目的替代方案，解决了微调预训练文本到图像模型的计算挑战。它们体积小、操作高效、易于集成，是在各种条件下自定义和控制图像生成的有价值工具，为人工智能的创造力和创新提供了支持。

最近流行起来的Transformer设计已经成为自然语言处理（NLP）活动，特别是机器翻译（MT）的标准方法。这种架构展示了令人印象深刻的扩展性，这意味着增加更多的模型参数会在各种NLP任务上获得更好的性能。许多研究和调查已经验证了这一观察结果。虽然Transformer在可扩展性方面表现出色，但也有一个并行的运动，旨在使这些模型在实际世界中更加高效和可部署。这涉及到处理延迟、内存使用和磁盘空间等问题。 研究人员一直在积极研究解决这些问题的方法，包括组件裁剪、参数共享和降维。广泛使用的Transformer架构包括许多重要部分，其中最重要的两个部分是前馈网络（FFN）和注意力。 注意力 – 注意机制允许模型在分析每个单词时捕捉句子中的关系和依赖，而不考虑它们的位置。它作为一种机制，帮助模型确定输入文本的哪些部分与其当前正在分析的每个单词最相关。理解短语中的单词之间的上下文和连接取决于这一点。 前馈网络（FFN）：FFN负责对每个输入标记进行非线性转换。通过对每个单词的表示进行特定的数学运算，它为模型对每个单词的理解增加了复杂性和表达能力。 在最近的研究中，一组研究人员专注于研究Transformer架构中的FFN的作用。他们发现FFN在作为模型的一个大组件时存在很高的冗余，并消耗大量的参数。他们发现，即使显著减少了模型的参数数量，也不会对准确性造成重大影响。他们通过从解码器层中删除FFN，而是在编码器层之间使用一个共享的FFN来实现这一点。 解码器层：标准Transformer模型中的每个编码器和解码器都有自己的FFN。研究人员删除了解码器层中的FFN。 编码器层：他们使用一个单独的FFN，该FFN由所有编码器层共享，而不是为每个编码器层提供单独的FFN。 研究人员分享了采用这种方法带来的好处，如下所示。 参数减少：通过删除和共享FFN组件，他们大大减少了模型中的参数数量。 尽管删除了大量参数，但模型的准确性仅略有降低。这表明编码器的多个FFN和解码器的FFN存在一定程度的功能冗余。 缩小规模：他们扩大了共享FFN的隐藏维度，以恢复架构的先前尺寸，同时保持或甚至提高模型的性能。与之前的大规模Transformer模型相比，这在准确性和模型处理速度（延迟）方面取得了显著的改进。 总之，这项研究表明，在Transformer设计中，特别是在解码器层中，前馈网络可以简化并共享，而不会对模型性能造成重大影响。这不仅减轻了模型的计算负载，还提高了其在各种NLP应用中的效果和适用性。

远程医疗的兴起改变了医疗的提供方式，打开了专业网络，降低了价格，并允许进行远程医疗咨询。此外，智能医疗系统通过添加医疗信息提取、药物推荐、自动诊断和健康问题解答等功能，改进了在线医疗服务。虽然在构建智能医疗系统方面取得了一些进展，但早期研究集中在特定问题或疾病上，具有狭窄的应用范围，导致实验性进展与实际应用之间存在差距。为了弥合这一差距，需要提供更广泛的医疗场景的完整解决方案，并为消费者提供最高品质的端到端对话式医疗服务。 近期，大型语言模型展示了与人类进行有意义对话和遵循指令的惊人能力。这些进展为开发医疗咨询系统创造了新的机会。然而，涉及医疗咨询的情况通常更为复杂，超出了通用领域的语言模型的范围。图1展示了一个真实世界医疗咨询的示例。它展示了两个特点。首先，需要全面可信的医疗知识来理解对话并在每个阶段做出适当回应。通用领域的语言模型提供与特定情况无关的输出，存在主要的幻觉问题。 其次，通常需要进行多轮对话才能获得足够了解患者情况以提供医疗咨询的知识，并且每个对话轮次都有一个明确的目标。然而，通用领域的语言模型在用户健康状况的具体问题上往往具有有限的多轮查询能力，并且是单轮代理。基于这两点发现，复旦大学、西北工业大学和多伦多大学的研究人员认为，医疗语言模型应该对全面可信的医疗知识进行编码，同时符合真实世界医疗对话的分布特征。受到指令调整的成功启发，他们研究如何构建高质量的监督微调数据集，用于训练医疗语言模型，并包括医学知识和咨询行为模式。 在实际应用中，他们使用三种不同的方法创建样本： • 基于医疗知识图的样本开发。根据从真实世界咨询数据集中收集的患者查询分布，他们使用以科室为导向的方法从医疗知识网络中选择知识三元组。然后使用GPT-3.5为每个三元组创建问答对。结果得到了50k个样本。 • 重建真实对话。为了改善语言模型，从医疗论坛收集的咨询记录是合适的数据源。这些文档中使用的语言是非正式的，术语的呈现方式不一致，各种医疗从业者的表达风格各异。因此，他们使用GPT-3.5使用实际案例重新创建对话。结果得到了420k个样本。 • 样本收集后，进行人工选择。他们从涵盖各种咨询设置的真实医疗对话记录中手动选择了一小组条目，并重新编写了某些示例以符合人类意图。他们还确保每个对话的整体质量在人工引导重建后得到保证。结果得到了2k个样本。然后，使用新创建的SFT数据集在拥有13B个参数的通用领域中文语言模型的基础上，通过两阶段训练过程训练DISC-MedLLM。他们从两个角度评估模型的性能，以确定其在多轮对话中提供系统咨询和在单轮对话中提供准确回复的能力。 图1：患者和真实医生之间对话的示例。医生回应中提到的医学实体由蓝色高亮文本标示。每一轮，医生的行为显示特定的意图：（1）在第一轮，进行更多的研究以收集有助于确定潜在情景的数据；（2）在第二轮，进行初步诊断并提出明确建议；（3）在第三轮，根据医疗状况提供具体的治疗选择。 他们从三个公共医学数据集中收集了一系列多项选择题，并使用该题库对单轮对话进行了模型准确性评估。对于多轮对话评估，他们首先使用GPT-3.5创建了一小组优秀咨询案例，模拟患者与模型进行对话。然后使用GPT-4评估模型的主动性、准确性、有用性和语言质量。实验结果显示，尽管不及GPT-3.5，但DISCMedLLM在参数相同的情况下平均超过了医学大规模华佗GPT 10%。 此外，在模拟医学咨询环境中，DISC-MedLLM的整体表现优于基准模型，如GPT-3.5、华佗GPT和扁鹊。DISC-MedLLM在涉及医学部门和患者意图的案例中表现出色，并超过了其他中文医学LLM。

大型语言模型（LLMs）以很大程度上利用了自然语言处理的能力。从语言生成和推理到阅读理解，LLMs都能胜任。这些模型在帮助医生工作方面的潜力引起了多个领域，包括医疗保健的关注。最近的LLMs，包括Med-PaLM和GPT-4，在涉及医学问答的任务中表现出了他们的熟练程度，特别是涉及医学数据库和考试的任务。 一个常见的限制是难以确定LLMs在受控基准测试中出色的表现是否能够转化到实际的临床环境中。临床医生在医疗行业中进行各种与信息相关的工作，这些工作经常需要来自电子健康记录（EHRs）的复杂、非结构化的数据。医疗从业者所面对的复杂性和复杂性在当前可用的EHR数据问答数据集中没有很好地体现出来。当医生依靠LLMs来帮助他们时，他们缺乏评估这些模型能否提供准确和具有上下文意识的回复所需的细微差别。 为了克服这些限制，一组研究人员开发了MedAlign，这是一个基准数据集，包括15名从事7个不同医学专业的临床医生提交的共983个问题和指令。MedAlign专注于基于EHR的指令-回答配对，而不仅仅是问题-回答配对，这使其与其他数据集不同。该团队为其中303个指令提供了由临床医生撰写的参考回答，并将其与EHR数据相链接，以提供提示的上下文和基础。每个临床医生对这303个指令上六种不同LLMs生成的回答进行了评估和排名，以确认数据集的可靠性和质量。 临床医生还提供了他们自己的黄金标准解决方案。通过收集包括临床医生提供的指令、LLM生成回答的专家评估以及相关的EHR上下文的数据集，MedAlign开创了一项开拓性的工作。这个数据集与其他数据集的不同之处在于它为评估LLMs在临床情况下的工作效果提供了一个有用的工具。 第二个贡献展示了一种自动化的、检索式的方法，用于将相关的患者电子健康记录与临床指令匹配。为了实现这一点，该团队创建了一个程序，使向临床医生索取指令更加高效和可扩展。他们可以通过隔离这种指令征集方法从更大、更多样化的临床医生群体中寻求提交。 他们甚至评估了他们的自动化方法与相关EHR匹配的效果。研究结果显示，与指令与EHR的随机配对相比，这种自动匹配过程在74%的情况下成功提供了相关的配对。这一结果突显了自动化提高连接临床数据的效果和准确性的机会。 最后一个贡献考察了自动化自然语言生成（NLG）参数与临床医生对LLM生成回答的评级之间的关系。这项研究旨在确定是否可以使用可扩展的自动化指标来对LLM回答进行排序，以取代专业临床医生的评估。该团队旨在通过衡量人类专家排序与自动化标准之间的一致程度，减少医生在未来研究中手动识别和评估LLM回答的需求。通过使审查过程更加高效且不那么依赖人力资源，为医疗应用开发和改进LLMs的进程可能会加快。