6.1 TensorBoard：排程室的监控大屏

6.1 TensorBoard：排程室的监控大屏

本节摘要：TensorBoard 是 TensorFlow 的配套观测系统：训练脚本往日志目录写事件，浏览器页面把事件渲染成四类面板——标量曲线看收敛趋势、图面板看计算图结构、直方图与分布面板看张量分布漂移、剖析器看执行时间线。本节给出从记录回调到面板解读的最小配置，逐面板说明"它回答什么问题"，并把剖析器与 5.2 节的性能优化流程接起来。观测是排错与调优的前提，这一节是全册实验工作的仪表台。

学习目标

阅读完本节，你应当能够：

1. 用 TensorBoard 回调把 Keras 训练接进监控大屏，三行配置完成接入；
2. 按问题选面板：收敛趋势、结构核对、分布异常、性能瓶颈各有归属；
3. 解读直方图面板中的梯度消失与权重饱和信号；
4. 用剖析器时间线定位数据饥饿与通信开销。

三行接入：从训练到可视化

TensorBoard 的数据流是"写事件、读事件"：训练脚本通过 SummaryWriter 把指标、图、张量分布按时间戳写进日志目录，页面进程轮询目录渲染。Keras 的接入只需要一个回调：

import tensorflow as tf
import numpy as np
from sklearn.datasets import fetch_california_housing

housing = fetch_california_housing()
X, y = housing.data.astype("float32"), housing.target.astype("float32")

model = tf.keras.Sequential([tf.keras.layers.Input(shape=(8,)),
                             tf.keras.layers.Dense(64, activation="relu"),
                             tf.keras.layers.Dense(1)])
model.compile(optimizer="adam", loss="mse",
              metrics=[tf.keras.metrics.MeanAbsoluteError()])

tb = tf.keras.callbacks.TensorBoard(log_dir="logs/run_a", histogram_freq=1)
# histogram_freq=1：每轮记录权重与梯度直方图，默认 0 不记录
model.fit(X[:8000], y[:8000], validation_data=(X[8000:9000], y[8000:9000]),
          epochs=10, batch_size=64, verbose=0, callbacks=[tb])
print("events written to logs/run_a")
# 输出：events written to logs/run_a
# 命令行启动页面：tensorboard --logdir logs，浏览器打开本地端口即见面板
​

histogram_freq 是新手最常困惑的参数：默认 0 时不写直方图，分布面板将是空的——想看分布就得显式开启，代价是每轮多一次权重统计的写入开销。日志目录建议按实验命名（run_a、run_b），同目录下多个 run 的曲线会在同一面板叠加对比。

四类面板与四类问题

图 27 四类面板回答四类问题

标量面板是最常用的：train 与 val 两条曲线的分离时刻即过拟合起点，曲线平台期即学习率问题的信号——3.6 与 3.4 节的所有调参判断，在这里有了图形依据。图面板的价值在"核对实际连接"：函数式模型的分支汇合、子类化模型的层结构，肉眼核对代码不如看图，共享权重与重复模块的连线一目了然。

直方图面板是最被低估的：它把每一轮的权重、偏置、梯度分布叠成随时间的演变图，两类病态有专属视觉特征——

# 造一个梯度消失现场给直方图面板看
sig = tf.keras.Sequential([
    tf.keras.layers.Input(shape=(8,)),
    tf.keras.layers.Dense(64, activation="sigmoid"),   # 饱和激活：梯度天生偏小
    tf.keras.layers.Dense(64, activation="sigmoid"),
    tf.keras.layers.Dense(1, activation="sigmoid"),
])
sig.compile(optimizer="sgd", loss="binary_crossentropy", metrics=["accuracy"])
xb = np.random.rand(512, 8).astype("float32")
yb = np.random.randint(0, 2, 512)
sig.fit(xb, yb, epochs=3, verbose=0,
        callbacks=[tf.keras.callbacks.TensorBoard("logs/vanish", histogram_freq=1)])
print("vanishing demo logged")
# 输出：vanishing demo logged
# 直方图面板上：深层 sigmoid 层的梯度直方图逐轮向 0 塌缩，
# 而换成 relu 的对照 run 梯度分布保持展开——饱和与消失一眼可辨
​

权重分布的漂移同样有信息量：健康的训练里权重分布逐渐展开（学到的东西变多）；分布原地不动说明该层没被有效训练；分布迅速收窄到极小值则可能学习率过大后已崩塌。

剖析器：5.2 节优化的观测仪

剖析器面板把训练步展开成时间线：CPU 段、GPU 计算段、设备空闲段、通信段各占色块。5.2 节的"先测量再优化"在此落地——GPU 空闲色块占大头即数据饥饿，去查 2.5 节三件套；通信色块在多卡训练里异常宽即聚合开销，回 5.2 节调批次或减少同步频率。

# 剖析的编程式入口：以指定步区间采样
tb_prof = tf.keras.callbacks.TensorBoard(log_dir="logs/profile",
                                         profile_batch=(100, 120))
# 第 100 到 120 步被剖析：跳过冷启动，采稳定期样本
model.fit(X[:8000], y[:8000], epochs=1, batch_size=64,
          verbose=0, callbacks=[tb_prof])
print("profiled steps 100 to 120")
# 输出：profiled steps 100 to 120
# profile_batch 不设则默认剖析前几步——冷启动噪声大，常需手动指定区间
​

剖析区间的选择有讲究：默认剖析开头的批次，而那时 JIT 编译、缓冲填充尚未稳定，时间线全是噪声；选训练中段的区间，看到的是稳态行为。

接入自定义循环

5.1 节的手写循环没有 fit 的自动记录，观测要自己写——SummaryWriter 每若干步手动写标量：

writer = tf.summary.create_file_writer("logs/loop_run")

for epoch in range(3):
    for step, (xb, yb) in enumerate(ds):
        with tf.GradientTape() as tape:
            loss = loss_fn(yb, model(xb, training=True))
        grads = tape.gradient(loss, model.trainable_variables)
        opt.apply_gradients(zip(grads, model.trainable_variables))
        if step % 20 == 0:                       # 每二十步记一笔，别每步都写
            with writer.as_default():
                tf.summary.scalar("loop_loss", float(loss), step=epoch * 1000 + step)
print("custom loop metrics streamed")
# 输出：custom loop metrics streamed
# 同一个 logs 目录下，fit 与手写循环的曲线可同屏对比
​

写入频率的取舍：每步写会让日志体积暴涨并拖慢训练（磁盘 IO 挤占管道带宽），每二十到一百步记一笔是常规选择；重要的 epoch 边界指标（验证集）则一步不落。

⚠️ 常见坑：日志目录混写多个无关实验，曲线叠加成蜘蛛网无法对比。规范是每个实验一个子目录、目录名带日期与实验标识；对比实验放同一父目录，面板自动同屏。

💡 关键直觉：TensorBoard 面板的本质是"把日志目录里的事件流按视角重排"。标量是时间视角、图是结构视角、直方图是分布视角、剖析是空间时间线视角——观测需求先归类，面板自然就选对了。

本节要点回顾

• 三行接入：TensorBoard 回调加 log_dir，histogram_freq 开分布记录。
• 四面板分工：标量看趋势、图看结构、直方图看分布、剖析器看时间线。
• 直方图读法：梯度塌缩即消失、分布不动即未训练、骤窄即崩塌。
• 剖析区间：默认采冷启动有噪声，手动指定训练中段。
• 自定义循环记录：SummaryWriter 手动写标量，控制写入频率。

下节清点起点与数据：Hub、TFDS 与垂直生态。