Press "Enter" to skip to content

遇见DERA:一种使用对话启用的解决代理增强大型语言模型完成的AI框架

遇见DERA:一种使用对话启用的解决代理增强大型语言模型完成的AI框架 四海 第1张遇见DERA:一种使用对话启用的解决代理增强大型语言模型完成的AI框架 四海 第2张

“大型语言模型”已经被开发出来,可以根据输入预测自然语言内容。除了语言建模挑战,使用这些模型还提高了自然语言的性能。基于LLM的方法在医学任务中,如信息提取、问答和摘要中展示了益处。提示是LLM技术中使用的自然语言指令。这些指令集包括任务规范,预测必须遵守的规则,以及可选的任务输入和输出样本。

生成式语言模型根据以自然语言给出的指令产生结果,消除了对特定任务的训练要求,使非专家能够扩展这项技术。虽然许多任务可以表示为单一线索,但进一步的研究表明,将任务分割为较小的任务可能会提高任务性能,尤其是在医疗领域。它们支持一种替代策略,包括两个关键组成部分。它始于一个迭代过程,用于改进第一个产品。与条件链接相反,这使得生成可以整体上得到完善。其次,它有一个指导者,可以通过在每次重复中提出要集中注意的区域来进行引导,使过程更加可理解。

随着GPT-4的发展,他们现在可以使用一个丰富、逼真的对话式VoAGI。来自Curai Health的研究人员建议使用对话式解决代理或DERA。DERA是一个框架,用于研究如何通过对话解决的代理来提高自然语言任务的性能。他们认为,将每个对话代理分配给特定的角色将有助于他们专注于工作的某些方面,并确保他们的合作伙伴代理与整体目标保持一致。研究者代理人寻求与问题相关的相关数据,并提议其他代理人要集中注意的主题。

为了提高自然语言任务的性能,他们提供了DERA,这是一个代理-代理交互的框架。他们根据三个不同类别的临床任务评估DERA。为了回答每个问题,需要不同的文本输入和不同的专业水平。医疗对话摘要挑战旨在提供一个医生-患者对话的摘要,该摘要在事实上是正确的,没有幻觉或遗漏。创建护理计划需要大量的信息,并且有助于临床决策支持的冗长输出。Decider代理角色可以自由回应这些数据,并选择输出的最终行动方案。

该工作有多种解决方案,目标是尽可能地提供事实上正确和相关的材料。回答关于医学的问题是一项开放性任务,需要思考知识,并且只有一个可能的解决方案。他们使用两个问答数据集在这个更具挑战性的环境中进行研究。在两个人工注释评估中,他们发现DERA在护理计划创建和医疗对话摘要任务方面的表现优于基本的GPT-4。根据定量分析,DERA成功纠正了包含许多不准确信息的医疗对话摘要。

另一方面,他们发现在问答方面,GPT-4和DERA的表现几乎没有改进。根据他们的理论,这种方法在涉及许多细粒度特征的长篇生成问题上效果很好。他们将合作发布一个基于MedQA的新型开放性医学问答工作,其中包括美国医学执照考试的实践问题。这使得对建模和评估问答系统进行新的研究成为可能。推理链和其他特定任务的方法都是链策略的示例。

推理链技术鼓励模型像专家一样处理问题,从而提高某些任务的性能。所有这些方法都努力从基本语言模型中产生适当的生成结果。这种提示系统受限于预先确定的、具有特定目的的提示集,如编写解释或修复输出异常,这是该方法的一个基本限制。他们在这个方向上迈出了一大步,但将它们应用于现实世界的情况仍然是一个巨大的挑战。

Leave a Reply

Your email address will not be published. Required fields are marked *