Tag: Artificial intelligence

多模态预训练的进展解决了各种任务，如LXMERT、UNITER、VinVL、Oscar、VilBert和VLP等模型。FLAN-T5、Vicuna、LLaVA等模型增强了遵循指令的能力。而Flamingo、OpenFlamingo、Otter和MetaVL等模型则探索了上下文学习。VQA等基准注重感知，而MMMU则通过对要求专家级知识和有意识的推理的大学级问题的需求而脱颖而出。其独特的特点包括全面的知识覆盖、各种图像格式以及对专题特定推理的独特强调，使其与现有的基准相区别。 MMMU基准由来自IN.AI Research、滑铁卢大学、俄亥俄州立大学、独立研究机构、卡内基梅隆大学、维多利亚大学和普林斯顿大学的研究人员推出，涵盖了各种学科的大学级问题。强调专家级感知和推理，它是一个暴露现有模型面临重大挑战的基准。 该研究强调了评估朝着专家级人工智能发展取得进展的基准的必要性，超越了人类能力。目前的标准，如MMLU和AGIEval，侧重于文本，需要更多的多模态挑战。大型多模态模型（LMMs）显示出潜力，但现有的基准需要专家级领域知识。MMMU基准的引入旨在弥合这一鸿沟，涵盖了复杂的大学级问题，包括各种图像类型和交织的文本。它要求专家级感知和推理，为追求高级人工智能能力的LMMs提供了具有挑战性的评估。 专为评估专家级人工智能而设计的MMMU基准包含11,500个涵盖六个学科和30个主题的大学级问题。数据收集涉及根据视觉输入选择主题，参与学生标注者收集多模态问题，并进行质量控制。多个模型，包括LMM和LMMs，以零-shot的方式在MMMU上进行评估，测试它们在无微调或少量示范的情况下生成精确答案的能力。 MMMU基准对模型来说是具有挑战性的，因为GPT-4V的准确率仅为55.7%，表明还有很大的改进空间。专家级感知和推理需求使其成为LMMs和LMMs的严格评估。错误分析指出了视觉感知、知识表示、推理和多模态理解的挑战，为进一步研究提供了方向。MMMU以30种不同的图像格式覆盖大学级知识，强调了在基础模型中丰富培训数据集以增强在专门领域中的准确性和适用性的重要性。 总之，创建MMMU基准代表了对专家级人工智能评估中的LMMs的重大进展。这个基准挑战了当前模型对基本感知能力和复杂推理的评估，有助于了解专家级人工智能发展的进展。它强调了专家级性能和推理能力，突出了在视觉感知、知识表示、推理和多模态理解方面进一步研究的领域。建议通过丰富培训数据集与领域相关的知识，以提高准确性和在专门领域中的适用性。

将以下HTML代码翻译成中文（保留HTML代码）： 大型语言模型（LLM）是用于自然语言处理任务的人工智能模型。这些模型经过大规模的数据集训练，能够理解和生成人类般的文本。它们通过理解和生成人类般的文本，改变了自然语言处理的方式。在生活中各个领域都具有实用性。 加州大学伯克利分校的研究人员推出了一个名为Starling-7B的开放大型语言模型（LLM），该模型通过基于强化学习的人工智能反馈（RLAIF）进行训练。该模型利用我们最近开发的奖励训练和策略调整管道、我们的新GPT-4标记分类数据集（Nectar）以及先进的奖励训练和策略调整管道。 https://starling.cs.berkeley.edu/ Starling-7B的基础是GPT-4标记分类数据集（Nectar）。该数据集包含183,000条聊天提示，每个提示提供了来自不同模型（如GPT-4、GPT-3.5-instruct、GPT-3.5-turbo、Mistral-7B-Instruct和Llama2-7B）的七个回复，共计380万个配对比较。为了确保公正性，在提示GPT-4进行排名时，研究人员付出了相当大的努力来减小位置偏差，这个过程在数据集部分详细说明。 https://huggingface.co/berkeley-nest/Starling-LM-7B-alpha 他们使用了一个学习奖励模型来改进Openchat 3.5语言模型，并取得了令人印象深刻的结果。AlpacaEval得分从88.51%增加到91.99%，而MT-Bench得分从7.81增加到8.09。这些度量标准作为评估聊天机器人有多实用的标准。 研究人员使用直接优化偏好（DPO）将该模型与早期的开源模型（如Zephyra-7B、Neural-Chat-7B和Tulu-2-DPO-70B）进行了测试。虽然这些模型在聊天机器人领域表现良好，但与顶级SFT模型（如OpenHermes 2.5和Openchat 3.5在MT Bench中）相比，它们可能没有充分发挥RLHF的潜力。 研究人员强调该模型存在一定的挑战。它容易受到欺骗或操纵方法的影响。此外，模型在处理数学或推理任务时存在困难，并且其输出的事实准确性只能有时保证。他们还指出，模型偶尔会过于冗长，容易被越狱提示所影响。他们表示，依然致力于改进Starling-7B的这些缺陷。 为了解决这个问题，他们提出通过利用基于规则的奖励模型来进一步改进该模型，其中GPT-4作为指导，使用GPT-4技术报告中概述的技术。 总之，Starling-7B代表了LLM的重大进展，展示了通过人工智能反馈进行强化学习的可能性。自然语言处理领域正在因这些模型与社区共享的知识的合作而得到增强。研究人员正在努力改进模型的性能并解决这些限制。 本文来源：加州大学伯克利分校研究人员介绍Starling-7B：一种基于强化学习的开放大型语言模型（LLM） ，首发于MarkTechPost。

微软研究人员解决了提高GPT-4在回答医疗问题方面的能力的挑战，无需特定领域的培训。他们引入了Medprompt，采用不同的提示策略来提高GPT-4的性能。目标是在MultiMedQA套件的所有九个基准上实现最先进的结果。 这项研究继承了关于GPT-4的医疗能力的先前研究，特别是BioGPT和Med-PaLM，通过系统地探索提示工程来提高性能。 Medprompt的多样性在各个领域得到证明，包括电子工程、机器学习、哲学、会计、法律、护理和临床心理学。 该研究探索了AI创建通用问题解决的计算智能原则的目标。它强调了GPT-3和GPT-4等基础模型的成功，在没有专门的培训的情况下，展示了它们在各种任务中的出色能力。这些模型采用了从大规模网络数据中广泛学习的文本到文本的范例。性能指标，如下一个词的预测准确性，随着训练数据、模型参数和计算资源的规模增加而提高。基础模型展示了可扩展的问题解决能力，表明它们在各个领域具有潜力。 该研究系统地探索了提示工程来提高GPT-4在医学挑战中的性能。仔细的实验设计缓解了过度拟合问题，采用了类似传统机器学习的测试方法学。 Medprompt通过使用有关眼睛和无眼睛的划分对MultiMedQA数据集进行评估，表明它对未见问题的鲁棒泛化性。该研究还检查了在增加计算负载下的性能，并将GPT-4的CoT原理与Med-PaLM 2进行了比较，揭示了生成输出中更长更详细的推理逻辑。 Medprompt改善了GPT-4在医疗问题回答数据集上的性能，实现了MultiMedQA中的现有结果，并超过了像Med-PaLM 2这样的专家模型，同时减少了调用次数。通过Medprompt，GPT-4在MedQA数据集上的错误率减少了27％，首次达到90％分数。 Medprompt的技术，包括动态少样本选择、自动生成的思维链和选择混洗集成，可以应用在医学以外的领域，以提高GPT-4的性能。严格的实验设计确保减少过度拟合的问题。 总之，Medprompt在医学问题回答数据集上表现出色，超过MultiMedQA并在各个领域展示了适应性。该研究强调了对于避免过度拟合的眼睛外评估的重要性，并建议进一步探索提示工程和微调，以利用基础模型在关键领域如医疗保健中的应用。 在未来的工作中，重要的是改进提示和基础模型的能力，将少量样本示例整合到提示中。提示工程和微调在高风险领域，如医疗保健中，存在协同效应的潜力，应该探索快速工程和微调作为关键研究领域。博弈论Shapley值可用于给予消融研究中的信用分配，并需要进一步研究来计算Shapley值并分析其在此类研究中的应用。

自动语音翻译的新功能和改进使我们能够完成更多任务，涵盖更多语言，并且能够处理更多输入格式。然而，相较于人际交流，目前大规模自动语音翻译系统缺少使机器中介沟通自然的关键能力。 Meta AI的一项新研究提出了一系列模型，可以实现从头到尾的表达和多语言翻译。研究人员首先提出了SeamlessM4T v2，这是SeamlessM4T模型的升级版本，它是多模态的，支持几乎所有语言。这个改进的模型使用了更近期版本的UnitY2框架，其训练使用了资源较少的语言数据。通过扩展SeamlessAlign，将自动对齐了76种语言的数据，总计114,800小时。最近的两个模型，即SeamlessExpressive和SeamlessStreaming，基于SeamlessM4T v2。使用SeamlessExpressive，用户可以在保留所有语调和风格的同时进行翻译。 Meta的研究保留了用户声音的风格，同时解决了韵律（prosody）的一些尚未充分研究的特征，例如说话速度和停顿，这些特征在以前的表达性语音研究尝试中被忽视了。关于SeamlessStreaming，该提议模型不需要等待源话语完全结束才能生成延迟较低的目标翻译，而是使用了效率高的单调多头注意力（EMMA）技术。利用SeamlessStreaming，可以同时完成多种源语言和目标语言的语音转文本翻译。 团队根据一组新的和更新的现有自动度量标准来评估这些模型的韵律、延迟和稳定性。为进行人工评估，他们修改了现有的协议，以衡量对于意思保留、真实性和表达力最重要的品质。他们对性别偏见进行了全面评估，这是已知的第一个为多模态机器翻译进行红队评估的努力，也是第一个已知的检测和缓解毒性添加的系统，并使用不可听见的本地水印技术来缓解深度伪造的影响，以确保他们的模型能够负责任且安全地使用。 Seamless是第一个公开可用的能够实现表达性跨语言实时交流的系统。它结合了SeamlessExpressive和SeamlessStreaming，汇集了各个重要组成部分。总体而言，Seamless为我们提供了转变通用语音翻译器从科幻理念变为现实所需的基础技术的关键洞察。 研究人员强调，模型的准确性可能会因性别、种族或口音而有所不同，尽管我们在各种公平性角度上对我们的凭据进行了彻底测试，并在可行的情况下加入了安全保障。进一步的研究应该继续努力提高语言覆盖范围，并缩小低资源语言和高资源语言之间的性能差距，以实现通用语音翻译器。

Translate this html (keep the html code in the result) to Chinese: 康奈尔大学的研究人员进行了一项研究，解决了语言模型逆推的问题。他们发现下一个标记的概率包含了有关前文的重要信息。为了解决这个问题，他们引入了一种方法，仅使用模型当前的分布输出来重构未知的提示，他们发现这种方法非常准确。 语言模型逆推的方法是在计算机视觉中反转深度嵌入的先前研究基础上的一种新技术。它旨在通过从语言模型输出中恢复隐藏的提示来解决文本嵌入的隐私问题。这种方法是独特的，并与自然语言处理模型中的模型逆推、成员推理和模型窃取之前的研究相关。该研究强调提示恢复作为应对隐私问题的一种方法。 该研究解决了语言模型逆推的问题，旨在从模型的下一个标记概率中恢复输入提示，这在用户无法访问原始提示的情况下至关重要。他们强调了语言模型预测的可逆性，并展示了相似或准确提示的恢复。该研究探索了包括仅文本访问在内的各种访问模式，证明了有限信息下的提示恢复的可行性。 该研究引入了一种从语言模型的分布输出中恢复未知提示的方法。它使用了基于Transformer模型训练的条件语言模型，将下一个标记的概率映射到标记。使用编码器-解码器Transformer中的交叉注意力，将向量展开为伪嵌入。在Llama-2 7b数据集上的实验展示了反转提示的定性示例。他们建立了基线，包括越狱字符串，以进行性能比较。 研究提出的逆推方法在Instructions-2M测试集中恢复提示方面表现出色，超过了few-shot提示和GPT-4。它在各种模型访问场景下取得了成功，实现了显著的BLEU分数和标记级别F1的Llama-2 7b数据集。还探讨了对不同大小的模型的可转移性，展示了在代码生成任务中的良好性能。定性分析显示，重构的提示与主题相关且句法相似，表明逆推方法在准确恢复语言模型输出的提示方面非常有效。 总之，该研究显示语言模型逆推是一种可靠的方法，可以从模型的输出分布中恢复提示。为了防止逆推攻击，重要的是实施防御机制，如添加噪音和设置限制访问。实验证明模型概率分布可以通过启用采样进行重构。但建议限制对top-logits的访问，并为提示保护将温度设为0。结果证实，语言模型逆推是一种有效的方法，可以准确地从语言模型中恢复隐藏的提示。 语言模型逆推的未来工作可以深入研究输入单个后缀以生成多个下一个标记预测，而不仅仅是在末尾。研究可以关注不同大小和领域的模型之间逆推的可转移性。研究对各种防御机制的影响，包括添加噪音和限制访问top-logits，提供了一个有价值的探索方向。将标记嵌入与概率值相结合的参数化可以提高逆推模型的性能。将该方法应用于代码生成等多样任务的探索将提供对其更广泛用途的洞察。进一步分析还需要了解提示恢复的限制和挑战，特别是在处理专有名词和改进句法相似性方面。

微软的研究团队通过开发一种针对放射学的多模态模型MAIRA-1来解决生成高质量胸部X光（CXR）报告的问题。该模型利用了CXR特定的图像编码器和基于Vicuna-7B的微调LLM，以及基于文本的数据增强方法，重点关注Findings部分。研究意识到了其中的挑战，并提出未来的版本可以结合当前和之前的研究信息以减少信息幻觉。 在研究中探索的现有方法包括使用具有多模态能力的LLM，如PaLM和Vicuna-7B，从胸部X光创建叙述性放射学报告。评估过程包括传统的NLP指标，如ROUGE-L和BLEU-4，以及聚焦于临床相关方面的放射学特定指标。研究强调提供详细的发现描述的重要性，同时强调了机器学习在生成放射学报告中的潜力，并解决了当前评估实践的局限性。 MAIRA-1方法结合了视觉和语言模型，从胸部X光中生成详细的放射学报告。这种方法针对临床报告生成的特殊挑战进行了处理，使用衡量质量和临床相关性的指标进行评估。研究结果表明，MAIRA-1方法可以提高放射学报告的准确性和临床实用性，代表了在医学成像中使用机器学习的一大步。 所提出的MAIRA-1方法是一种针对放射学的多模态模型，用于生成胸部X光报告。该模型利用CXR图像编码器、可学习的适配器和微调的LLM（Vicuna-7B）来融合图像和语言，以提高报告质量和临床实用性。它使用GPT-3.5进行基于文本的数据增强，以进一步改进训练。评估指标包括传统的NLP测量指标（ROUGE-L、BLEU-4、METEOR）和放射学特定的指标（RadGraph-F1、RGER、ChexBert矢量），用于评估临床相关性。 MAIRA-1在生成胸部X光报告方面显示出显著的改进，具体表现为RadCliQ指标的提升和与放射科医生相关的词汇指标的改进。模型的性能因发现类别而异，存在成功和挑战。MAIRA-1有效地揭示了标准评估实践所未捕捉到的微妙失败模式，这一点在覆盖了语言和放射学特定方面的评估指标中得到了证明。MAIRA-1提供了对胸部X光报告的全面评估。 总之，MAIRA-1是一种高效的生成胸部X光报告的模型，通过其特定于领域的图像编码器和流利准确地识别微妙发现的能力超越了现有模型。然而，考虑现有实践的局限性和临床背景的重要性在评估结果时是很重要的。建议考虑多样化的数据集和多个图像以进一步改进模型。 MAIRA-1的未来版本可能会将当前和之前的研究信息纳入，以减轻生成报告中的虚构需求，正如与GPT-3.5的先前工作中所示。为了优化临床相关性，未来的工作可以探索强化学习方法来解决对临床实体提取的依赖性。建议在更大范围和多样化的数据集上进行增强训练，并考虑多个图像和视图，以进一步完善MAIRA-1在生成微妙的放射学特定发现方面的性能。

最令人振奋的大型语言模型（LLM）应用之一是在医学领域的运用，其中一些用例包括医学研究、个性化健康计划、临床诊断等等。然而，考虑到该领域的安全性问题，有必要在各种用例中对这些模型进行安全测试，以确保它们可安全使用。此外，这些模型应该向公众发布，以供审查。 因此，一组研究人员发布了一组名为 MediTron 的LLM，它们是基于 LLaMA-2 的领域适应型模型。该模型有两个变体 – 一个带有 7B 参数，另一个带有 70B 参数。MediTron 是一个基础模型，可用于使用 RLHF 或指令调节进行特定的下游任务，其一些用例包括医学考试答题、一般健康问题、疾病信息查询以及支持差异诊断。 MediTron 的训练数据集非常全面，包括临床实践指南、医学论文及其摘要以及一般领域的预训练数据。采用了 Megatron-LLM 分布式训练库来优化训练效率，并使用数据、管道和张量并行化方案来加快进程。 研究人员对模型的真实性进行了初步评估。 他们使用了 TruthfulQA 数据集作为基准，并对 7B 模型进行了单次评估和对…

GPT在自然语言处理任务中表现出色。然而，使用GPT构建和部署的流程可能会很长且复杂。这就是RAG的作用所在。 RAG是由Streamlit开发的一款应用程序，用于简化创建和部署GPT流程的过程。它提供了直观的界面，使用户可以指定任务和所需的RAG系统参数。然后，在RAG生成所需代码后，流程将自动部署。 最好的部分是RAG还有一个全新的版本RAGs v2。RAGs v2是自其初始发布以来的一次重要升级，为构建和自定义ChatGPT提供了更灵活和用户友好的体验。用户现在可以轻松创建、保存和管理多个RAG流程，每个流程都可以使用不同的数据集或系统提示进行自定义。此外，还可以删除未使用的流程，提高整体可用性。集成了代码检查和CI工具，提高了开发质量。RAGs v2还支持各类大型语言模型（LLM），用于在每个RAG流程中构建和使用。此外，它还可以加载文件或网页，进一步扩展其功能。提供了一个详细的说明视频，以便轻松设置和使用这个高级工具。 以下是该应用的三个主要部分： 在主页上，通过指示“builder agent”构建RAG流程。 可以在RAG配置部分中找到“builder agent”创建的RAG设置。您可以在此区域中自由更新或更改生成的设置，该区域具有用户界面。 使用常规的聊天机器人界面生成RAG agent，您可以根据数据向其提问。 如何使用RAGs 以下是使用RAGs的简单方法： 运行RAGs：要运行RAGs，执行以下命令： pip install rags 安装完成RAGs后，可以执行以下命令构建RAG流程： rags create-pipeline Streamlit应用程序将启动，您可以选择任务和所需的RAG系统规格。 完成创建RAG流程后，执行以下命令部署： rags…

上海交通大学、亚马逊网络服务和耶鲁大学的研究解决了理解语言代理中的思维链（CoT）技术的基础机制和合理性的问题。该研究强调了CoT推理在LLM（语言模型）中的重要性，并探索其与自治语言代理的先进性之间的复杂联系。 研究还研究了CoT验证方法在提高推理性能和可靠性方面的作用和有效性。这个全面的资源适用于初学者和有经验的研究人员，帮助他们提高对CoT推理和语言代理的理解。该研究深入探讨了LLM中CoT推理的发展，以及保证模型可靠性和精确性的不同CoT验证方法。对于这一领域的新手和有经验的研究人员来说，它是一个有用的参考。 该研究重点关注语言智能的发展以及语言模型（LLMs）如何在理解和推理方面取得显著进展，使其像人类一样思考。其中一种策略是CoT提示，它在模式、推理格式和应用方面得到了发展。LLM中的CoT推理将复杂问题有效地分解为可管理的步骤。它可以通过将CoT技术整合到语言代理中来理解和执行现实或模拟任务。该研究旨在探索CoT机制，分析范式转变，并研究以CoT技术驱动的语言代理的发展。 建议的方法包括探索和分析CoT推理及其在语言代理中的应用。它包括利用各种CoT技术，如Zero-Shot-CoT和Plan-and-Solve提示，以提高语言代理的性能。该方法强调了CoT在生成说明和示例以及验证过程中的重要性。它还将指令生成方法进行分类，并讨论整合维基百科和Google等外部知识源以提高推理链准确性。 CoT提供了改进泛化、效率、定制化、可伸缩性、安全性和评估的解决方案。引言提供了初学者和有经验的研究人员的详细信息，强调了CoT推理和语言代理的基本原则和当前进展。 综上所述，本评述全面地考察了从CoT推理到自动化语言代理的发展，强调了先进性和研究领域。CoT技术显著改进了LLMs，使语言代理能够理解指令并执行任务。该研究涵盖了模式优化和语言代理开发等基本机制，以及未来的研究方向，包括泛化、效率、定制化、扩展性和安全性。这篇评述适合该领域的初学者和有经验的研究人员阅读。