Press "Enter" to skip to content

谷歌的这项AI研究揭示出如何通过编码图数据提升语言模型在复杂任务中的性能

近年来,大型语言模型(LLM)的研究和应用取得了显著进展。这些生成模型引起了人工智能界的兴趣,最近还提供了许多在各种任务和模态下训练的模型。这些发展形成了一个共识,即LLMs是人工通用智能(AGI)的重要一步。尽管具有所有的好处,但目前LLMs的设计和实施还有一些可以改进的地方。它们对于非结构化文本的依赖是它们最明显的缺点之一,因为有时候会导致模型忽略明显的逻辑推理或假想错误的结论。

另一个问题是LLMs基于它们所教授的时间段存在固有的限制,而如何整合关于世界进化的“新”知识可能具有挑战性。图结构化数据是信息表示中最具适应性的形式之一,可以为这两个问题提供潜在的解决方案。有趣的是,尽管存在这种潜力,图和LLMs的交叉研究还很少。例如,尽管图数据库和LLMs受到了很多关注,但对于图结构化数据的更广泛应用还需要进一步研究。王等人最近通过创建一个专门为语言模型而设的图基准挑战来解决这个问题。

尽管他们的工作标志着评估LLM的图推理能力的有趣起步努力,但由于存在各种未解答的问题,如消除各种自然图挑战和解决的图结构类型的缺乏多样性,还需要更多的研究。最近的其他工作旨在使用LLMs代替图结构化数据,但它忽略了一些LLMs的核心问题。Google Research的研究人员在这篇论文中首次进行了关于以文本形式呈现给LLMs阅读的图结构化数据推理的彻底研究。他们将问题分解为图提示工程和图编码,以更详细地研究图推理。

我们可以通过尝试不同的图编码技术,将LLM获得的表示应用于图问题。在研究提示工程方法时,可以选择最佳方法来询问LLM所要回答的问题。他们的测试结果旨在确定各种提示启发式策略在哪些情况下表现最佳。为此,他们提供了一个全新的用于评估LLM在图数据上推理性能的基准集合,称为GraphQA。使用比以前使用LLMs进行研究的图结构要丰富和真实得多的图结构,使得GraphQA与众不同。

具体而言,他们的工作对以下方面做出了贡献:

1. 对用于LLMs的图结构提示方法进行了全面研究。

2. 为将图编码为文本以供LLM使用提供了最佳实践和见解。

3. 提出了一个全新的图基准集合GraphQA,让社区更好地探索图结构对LLM提示的影响。

Leave a Reply

Your email address will not be published. Required fields are marked *