5.3.1 收敛曲线分析：残差与误差估计

文档摘要

5.3.1 收敛曲线分析：残差与误差估计在数值模拟、优化求解与机器学习训练的实战现场，我们常听到一句近乎本能的追问：“它收敛了吗？”——这短短五个字，背后却潜藏着一场无声的博弈：算法是否真的逼近了数学意义上的解？计算资源是否被有效利用？结果是否值得交付给下游决策？更残酷的是，收敛不是一种状态，而是一组证据链；不是终点宣告，而是持续验证的过程。尤其当面对非线性偏微分方程（PDE）的有限元求解、高维非凸优化问题的梯度下降迭代，或深度神经网络在小样本上的训练时，“看起来收敛了”往往是最危险的幻觉。此时，残差（residual）与误差（error）这两把尺子，便不再是教科书里的抽象符号，而成了工程师指尖下跳动的脉搏、日志里闪烁的警报、可视化界面上亟待破译的密码。本节聚焦于5.3.