8.1.2 颜色编码与NaN陷阱检测

文档摘要

8.1.2 颜色编码与NaN陷阱检测在调试数值计算密集型系统时，我们常陷入一种隐秘而顽固的困境：程序没有崩溃，日志没有报错，梯度在下降，损失在收敛——可最终结果却像被施了咒语般偏离预期。你反复检查模型结构、数据预处理、学习率调度，甚至重跑三遍随机种子，问题依旧如雾中之影，若即若离。直到某天深夜，你把中间张量后随手，屏幕赫然跳出 ——那一刻，你才意识到：不是逻辑错了，是NaN已经悄然接管了计算图的毛细血管，而你此前所有的“观察”，都只是在给一具正在融化的雪人拍照。这，就是“NaN陷阱”的典型切口：它不声不响，不抛异常，不中断训练，却以指数级速度腐蚀数值稳定性，污染梯度流，篡改参数更新方向。