11.1.3 噪声与收敛速度


文档摘要

11.1.3 噪声与收敛速度 在深度学习模型的训练实践中,我们常常会遭遇这样一种令人沮丧的“温水煮青蛙”式困境:损失曲线明明还在缓慢下降,梯度模长也尚未趋近于零,但模型性能却像被无形之手按住——验证准确率停滞不前,测试误差纹丝不动,甚至悄然爬升。更微妙的是,当你把学习率调小一半,训练反而更稳了;可若再降一档,收敛又慢得让人怀疑人生;而一旦稍作放大,参数更新便如脱缰野马,在损失曲面的沟壑间反复横跳,震颤不止。这不是过拟合,也不是欠拟合;… 会员。《11.1.3 噪声与收敛速度》收录于灏天文库文集《Ray Tracing光线追踪》,提供技术教程、实践指南与问题解决方案,支持在线阅读、全文检索与知识沉淀,助力开发者系统化学习。文档编号57709。

该文档为会员专享,请先登录或注册后再查看


发布者: 作者: 转发
评论区 (0)
U