新的GNN架构
绝大多数图神经网络(GNN)遵循消息传递范式,其中节点状态基于聚合的邻居消息进行更新。在本文中,我们描述了合作式GNN(Co-GNNs),一种新型的消息传递架构,其中每个节点被视为可以选择“听取”、“广播”、“监听和广播”或“隔离”的玩家。标准的消息传递是每个节点“听取和广播”所有邻居的特殊情况。我们展示了Co-GNN是异步的、更具表达力,并可以解决标准消息传递GNN的常见问题,如过度压缩和过度平滑。
本文由Ben Finkelshtein、Ismail Ceylan和Xingyue Huang共同撰写,基于论文B. Finkelshtein等人《合作式图神经网络》(2023) arXiv:2310.01267。
图神经网络(GNN)是一类用于学习图结构数据(如分子、生物互作网络和社交网络)的流行架构。绝大多数GNN遵循消息传递范式[1],即在每一层中,图节点沿图的边交换信息。每个节点的状态通过聚合自邻居节点发送的消息进行更新,这通常是一个置换不变的聚合操作(通常为求和或平均)[2]。
尽管消息传递范式在图机器学习中具有很大影响力,但它有众所周知的理论和实践限制。消息传递图神经网络(MPNNs)与图同构测试的形式等价性[3]为其表达能力提供了理论上限。因此,仅依靠消息传递的方式,无法区分甚至非常简单的非同构图(例如下面示例中的一个6环和两个三角形)。除非有额外的信息,如位置或结构编码…