文档摘要

图注意力网络 图注意力网络（graph attention network，GAT）用学习到的、依赖数据的加权来取代均匀的邻域聚合。本文件涵盖 GAT、多头图注意力、GATv2、图 Transformer（Graph Transformer）、位置编码与结构编码，以及可扩展性。 在 GCN（文件 03）里，每个节点用由图结构（归一化邻接）决定的固定权重来聚合邻居特征。一个有三个邻居的节点给每个邻居大致相等的权重（$\approx 1/3$）。但并非所有邻居都同样重要：来自密切合作者的消息应当比来自点头之交的更有分量。 图注意力网络（Graph Attention Networks）通过学习该关注哪些邻居来解决这个问题，用的正是驱动 Transformer 的那个注意力机制（第 7 章）。

---