第 4 章 模型家族：从 CNN 到 GNN

第 4 章 · 模型家族：从 CNN 到 GNN

章节摘要：第 3 章的装配线不关心你装的是什么结构——这一章负责选结构。六种网络家族对应六类数据的先验：卷积对应图像的空间局部性，循环对应序列的时间依赖，自编码器对应无标签的表示压缩，生成对抗网络对应"造假与鉴定"的博弈结构，注意力对应长距离依赖的加权查询，图神经网络对应邻接关系上的信息传播。每节配一个可跑的案例：CIFAR-10 小图分类、影评情感分类、用电负荷时序预测等。读完你将能按数据形态给任务选对骨架并调通训练。

学习目标

阅读完本章，你应当能够：

1. 搭一条标准 CNN 主干并在 CIFAR-10 子集上调通，解释卷积与池化对形状的影响；
2. 说清 RNN 三个门控单元的信息流动，用 LSTM 完成影评情感分类与时序预测两个案例；
3. 实现一个卷积自编码器，用重建误差做异常检测；
4. 描述 GAN 的博弈目标与交替训练节奏，跑通一个简单生成器；
5. 实现缩放点积注意力，解释它与 RNN 在长序列上的调度差异；
6. 用消息传递视角理解 GNN，跑一个最小图分类例程。

核心概念速览

图 16 模型家族谱系：按数据先验选骨架

一句金句：网络结构是把数据先验写进计算图的方式——卷积押注局部性，循环押注时序，注意力押注"哪里重要就往哪看"。

子章节导航

4.1 卷积神经网络：权值共享的扫描工单

卷积核在整张图上复用同一组权重，参数量与平移不变性双赢；CIFAR-10 子集上搭一条卷积、池化、全连接的标准主干。

4.2 循环神经网络：按时步展开的串行调度

状态在时间轴上逐步传递，梯度沿时间回放；LSTM 门控缓解遗忘，影评分类与负荷预测两个落地案例。

4.3 自编码器：压缩与重建的双程管道

编码器压、解码器放，瓶颈逼出表示；重建误差天然是异常分数，异常检测案例即插即用。

4.4 生成对抗网络：两个网络的博弈排程

生成器与判别器的对抗目标、交替训练的调度节奏、不稳定现象与缓解手段。

4.5 注意力机制：让张量互相打分

查询、键、值三元组与缩放点积；相对 RNN 的并行优势；一个可运行的最小注意力层。

4.6 图神经网络：在邻接结构上传播

消息传递三步：收集邻居消息、聚合、更新；谱系从 GCN 到消息传递网络；最小图分类例程。

子章节之间的逻辑关系

六节按"主流双家族、辅助双家族、新范式双家族"展开：4.1 与 4.2 是历史主流，分别统治视觉与时序，值得都吃透；4.3 与 4.4 是无监督两翼，一个学表示、一个学生成；4.5 与 4.6 是范式更新——注意力用并行调度改写了时序建模的成本结构，GNN 把网络从规则网格推广到任意拓扑。4.5 的注意力同时也是理解现代大模型结构的门槛，它是本章通向后续技术栈的接口。

4.1 CNN ──┐
          ├──> 3.3 的 fit 直接复用：只换模型，装配线不变
4.2 RNN ──┤
          │
4.3 AE ───┤──> 4.5 注意力（长序列正解）──> 现代结构族的通用件
4.4 GAN ──┤
          │
4.6 GNN ──┘
​

前置知识与后续延伸

• 前置知识：第 3 章的建模与训练全套（本章每个案例都是"只换模型"的复用）；1.3 节张量规格（各家族对输入 shape 有硬约定）。
• 后续延伸：4.5 的注意力是理解 Transformer 及大模型的前置；5.2 节分布式训练在大模型场景以注意力结构为主角；6.2 节 Hub 的预训练模型多数是 CNN 与注意力家族，微调思路与本章一致。