基础知识指南

图神经网络

图神经网络 (GNN) 是通过在邻居之间传递和聚合信息来直接学习图结构数据(由边连接的节点)的模型。

阅读时间:2分钟最后更新

概述

They matter because much of the real world is relational: social networks, molecules, road maps, and recommendation systems are all graphs that grids and sequences cannot naturally represent.

深入探讨

GNN 通过消息传递来运行。每个节点都从一个特征向量开始,在每一层中,每个节点都会从其邻居收集消息,使用诸如 sum、mean 或 max 之类的排列不变函数来聚合它们,并更新自己的表示。堆叠 L 层可以让信息在图上传播 L 跳,因此节点的最终嵌入反映了其更广泛的邻域,而不仅仅是直接连接。变体的不同之处在于聚合方式:图卷积网络使用标准化的邻居平均,GraphSAGE 采样并聚合固定数量的邻居以实现可扩展性,图注意力网络学习权重,以便节点更多地关注重要的邻居。然后,学习到的节点、边缘或全图嵌入会提供给分类、回归或链接预测头。

技术洞察

定义属性是排列不变性:图没有固有的节点排序,因此无论邻居如何列出,聚合步骤都必须产生相同的结果 - 因此是求和、平均值或最大值,而不是固定位置操作。一个已知的限制是过度平滑:堆叠太多的消息传递层,并且每个节点的嵌入都收敛到相同的值,从而消除了有用的区别。这限制了实际深度并激发了剩余连接和标准化。

战略影响

更清晰的判决

它可以帮助您将清晰的技术声明与营销语言分开。

成本与预算

在花费金钱或时间之前,您可以提出更好的实施问题。

团队与工作流程

具有共同理解的团队可以做出更好的产品、政策和学习决策。

图神经网络的未来

GNN 是科学人工智能的核心。 DeepMind 的 GNoME 使用它们来预测数百万个稳定的新晶体结构,而像 GraphCast 这样的天气模型将地球表示为图表,其预测速度比物理模拟器更快。研究正在解决十亿边图的可扩展性、抵抗过度平滑的更深层次网络,以及 GNN 和 Transformer 之间的关系(本质上是对全连接图的关注)。预计与基础模型的集成更加紧密,并在药物发现和材料科学中得到越来越多的应用。

现实世界的实施

通过将原子视为节点并将化学键视为边缘来预测药物发现中的分子特性和毒性。

为 Pinterest 等公司提供推荐,PinSage 学习项目和用户交互图的嵌入。

通过发现账户之间交易图表中的可疑模式来检测欺诈和洗钱行为。

预测天气和交通,例如 GraphCast 和将位置表示为连接节点的道路网络模型。

风险与防护栏

不同的团队可能会以不同的方式使用同一术语,因此请尽早定义范围。

基准测试可能看起来很强大,但实际性能却参差不齐。

忽视数据质量和评估计划通常会产生脆弱的结果。

实施路线图

1

从您需要的结果的简单语言定义开始。

2

在测试之前选择一种成功指标和一种失败条件。

3

使用代表性数据运行小型试点,而不是完善的演示集。

4

记录图神经网络在哪些方面有帮助以及在哪些方面更简单的方法更好。

不断探索

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the Graph Neural Networks quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

开始测验

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

常见问题

What is Graph Neural Networks?

图神经网络 (GNN) 是通过在邻居之间传递和聚合信息来直接学习图结构数据(由边连接的节点)的模型。它们很重要,因为现实世界的大部分内容都是相关的:社交网络、分子、路线图和推荐系统都是网格和序列无法自然表示的图表。

大多数图神经网络的核心计算机制是什么?

GNN 的工作原理是让每个节点收集并聚合来自邻居的消息,然后更新自己的表示,如此跨层重复。

为什么 GNN 的邻居聚合函数必须是排列不变的?

由于节点的邻居没有规范顺序,因此 sum、mean 或 max 等操作可确保输出不依赖于邻居的列出方式。

深度 GNN 中的“过度平滑”指的是什么?

堆叠太多的消息传递层会导致每个节点的表示收敛到相同的值,从而消除了有用的区别。

图注意力网络(GAT)与基本图卷积网络(GCN)有何区别?

GAT 将学习到的注意力权重分配给邻居,让节点强调最相关的节点,而不是对它们进行统一平均。

在应用于分子的 GNN 中,节点和边通常代表什么?

分子本质上是图:原子是节点,连接它们的键是边,这就是 GNN 擅长预测分子属性的原因。