第 5 章 高级排程：自定义、加速与部署

第 5 章 · 高级排程：自定义、加速与部署

章节摘要：前四章你一直坐在调度员的座位上但流程由 Keras 代排——这一章把排程室的方向盘接过来：亲手用 GradientTape 写训练循环、用分布式策略把同一张图分派到多设备、把训练好的图送上三条部署线（服务器、移动端、浏览器）、并把整条训练到服务的流程固化成 TFX 流水线。性能优化与调试的手段贯穿各节。读完本章，从实验到生产就再没有你够不着的环节。

学习目标

阅读完本章，你应当能够：

1. 手写带指标累计、检查点与进度输出的完整训练循环，并与 fit 行为对齐；
2. 选择并应用合适的分布式策略，说清数据并行下梯度聚合的调度时序；
3. 定位训练慢的瓶颈：数据管道、算子效率还是设备间通信；
4. 把模型导出为 SavedModel 并分别走通 Serving、Lite、tfjs 三条部署线；
5. 描述 TFX 各组件的职责，设计一条从数据校验到模型推送的流水线。

核心概念速览

图 22 从自定义循环到三条部署线的全景

一句金句：自定义循环是接管，分布式是扩容，部署是交付——三件事共享同一个底层对象：那张被你彻底看懂的计算图。

动手前的排程检查清单

进入本章前，建议逐条自查——每一项都对应前文的机制，缺一条都会在后面的实践中变成坑：

• 我能说清 @tf.function 跟踪一次、之后按图执行的边界（1.5 节）吗？手写循环里每一处副作用都要过这道检查；
• 我知道训练参数是 Variable、更新靠 assign（1.6 节）吗？自定义循环里绕开优化器直改参数是最危险的写法；
• 我的训练管道有并行、缓存、预取吗（2.5 节）？分布式把算力放大数倍后，管道反而成为最先暴露的短板；
• 我能给模型导出 SavedModel 并核对签名（3.8 节）吗？5.3 节的三条部署线都以它为入口；
• 我看 loss 曲线时知道它"何时执行、谁在写"吗？不能回答就先回 3.3 节。

子章节导航

5.1 自定义训练循环：亲手接管 GradientTape

tape 的录制与求导机制、完整循环的必备件（指标、检查点、进度输出），GAN 与对比学习等非标流程的落地。

5.2 分布式策略与性能优化

数据并行的镜像策略、梯度聚合的时序、剖析器定位瓶颈，混合精度与 XAT 的提速选项。

5.3 三条部署线：Serving、Lite 与 tfjs

服务器端的高吞吐服务、端侧的量化转换、浏览器内的直接推理，各自的前置转换与调用方式。

5.4 TFX 流水线与自定义算子扩展

从数据校验到模型推送的流水线组件分工，自定义层、自定义算子与梯度函数的扩展边界。

子章节之间的逻辑关系

四节是一条生产链的四段：5.1 解决"训练流程本身能不能自定义"，是本章技术地基——后面所有场景（GAN、分布式、研究性结构）都从这里出发；5.2 解决"算力不够怎么办"，把单机循环扩到多设备；5.3 解决"训练完怎么交付"，SavedModel 是交接台；5.4 解决"这些工序怎么固化成可重复的流水线"。读法建议：5.1 必须精读并动手，5.2 与 5.3 按需取用，5.4 建立概念地图即可。

5.1 手写循环（地基）
      │
      v
5.2 分布式扩容 ──> 5.3 三条部署线 ──> 5.4 TFX 固化流水线
                        （SavedModel 交接台贯穿 5.3 全节）
​

前置知识与后续延伸

• 前置知识：1.5 节执行模式与 1.6 节变量（5.1 直接操作这两块机制）；3.8 节存档格式（5.3 的入口）；第 2 章管道（分布式分发的对象）。
• 后续延伸：6.1 节 TensorBoard 的剖析视图是 5.2 性能优化的观测仪；6.2 节 Hub 的预训练模型在 5.3 的端侧线上是常见起点；TFX 概念图为 MLOps 深入学习铺路。