6.3.2 时序模型（LSTM、Transformer）

文档摘要

6.3.2 时序模型（LSTM、Transformer）在时序建模的深水区，我们常面临一个尖锐的诘问：为什么同一个数据集，用LSTM训练十次，结果波动比天气预报还大？为什么Transformer在电力负荷预测中收敛得像慢镜头回放，而加了位置编码后反而发散？为什么模型在验证集上AUC高达0.92，上线三天后RMSE就翻了三倍？这不是玄学，而是时序建模从“能跑通”跃迁到“可交付”的必经阵痛。6.3.2节所指的“时序模型（LSTM、Transformer）”，绝非教科书里两段公式加一个调用就能闭环的抽象概念——它是数据流经时间轴时被反复折叠、对齐、掩码、归一化的物理过程；是梯度在数十层递归计算中如何不爆炸、不消失的微分方程求解实践；更是工程约束与数学优雅之间持续角力的战场。