6.1.1.1 LSTM 与 Transformer 模型

文档摘要

6.1.1.1 LSTM 与 Transformer 模型 6.1.1.1 LSTM 与 Transformer 模型：当 Transformer 在时序预测中“记不住昨天的雨”，我们不是调大 hiddensize，而是重写位置编码的因果逻辑凌晨两点十七分，监控告警第三次弹出——某省级电网负荷预测服务的 MAPE（Mean Absolute Percentage Error）在早高峰时段突然跃升至 12.8%，远超 SLA 要求的 ≤4.5%。回溯发现，模型对“昨日同一时刻突增 320MW 负荷”的事件毫无反应：它预测今天 7:45 的负荷是 18.3 GW，而真实值是 19.1 GW；更讽刺的是，LSTM 基线模型在同一数据上给出 18.9 GW，误差仅 1.05%。