Press "Enter" to skip to content

图与网络的表示学习

图与网络的表示学习 四海 第1张

编辑注:Dr. Petar Veličković是ODSC West 2023的演讲嘉宾。一定要去听听他的演讲:“图和网络上的表示学习”!

我在ODSC West的演讲的主要目标是让与会者能够吸收该领域的关键概念,并将图表示学习与相关领域放在适当的背景下,使图表示学习易于导航、利用和贡献。这将紧密跟随我最近在《现代结构生物学》杂志上发表的一篇综述论文。

具体而言,我的演讲将介绍一个充满活力和令人兴奋的深度学习研究领域:图表示学习。或者简单地说,构建机器学习模型来处理生活在图上的数据(由边连接的节点的互联结构)。这些模型通常被称为图神经网络,简称GNN。研究图数据有很好的理由,因为在许多方面,图是我们从自然界接收到的数据的主要形式。从分子(由化学键连接的原子的图)到大脑的连接结构(由突触连接的神经元的图),图是描述生物体的普遍语言,涵盖各个组织层次。同样,人类感兴趣的大多数相关人造构造,从交通网络(由道路连接的交叉口的图)到社交网络(由友谊链接连接的用户的图),最好以图的形式进行推理。

图与网络的表示学习 四海 第2张

近年来,科学界和工业界的团队都已经认识到了这一潜力,GNN现在被用于发现新型强效抗生素,在Google地图中提供估计的旅行时间,在Pinterest中推荐内容,在亚马逊中推荐产品,并设计最新一代的机器学习硬件:TPUv5。此外,基于GNN的系统还帮助数学家揭示了数学对象的隐藏结构,从而在表示论领域提出了新的一流猜想。毫不夸张地说,数十亿人每天都会接触到GNN的预测。因此,研究GNN很可能是一项有价值的追求,即使不打算直接为其发展做出贡献。

此外,很可能驱动我们推理和决策的认知过程在某种程度上是图结构化的。换句话说,用Jay Wright Forrester的话说,“没有人真的在脑海中想象出他们所知道的所有信息;相反,他们只想象出选定的概念以及它们之间的关系,并用这些来代表真实系统”。如果我们认同这种对认知的解释,那么在没有依赖图表示学习的组件的情况下,我们很可能无法构建一个普遍智能的系统。请注意,这一发现并不与许多最近的熟练机器学习系统基于Transformer架构的事实相冲突——正如我们在本次演讲中将揭示的那样,Transformer本身就是GNN的一个特例。

关于作者/ODSC West演讲嘉宾:

图与网络的表示学习 四海 第3张Petar Veličković是Google DeepMind的高级研究科学家,剑桥大学的兼职讲师,以及剑桥克莱尔学院的副院士。Petar拥有剑桥大学(三一学院)的计算机科学博士学位,由Pietro Liò指导完成。他的研究涉及几何深度学习,即设计尊重数据中的不变性和对称性的神经网络架构(这是我与他人合著的一本原书的主题)。Petar的研究已经在大大改善Google地图的旅行时间预测和指导数学家的直觉,使他们接近新的一流定理和猜想。

Leave a Reply

Your email address will not be published. Required fields are marked *