文档摘要

2.5 前向反向与梯度下降 本节摘要：一次学习步骤可以写成五步：取一批数据、前向算出预测、用损失比较标签、反向得到梯度、优化器更新参数。Keras 的 把五步收进函数；PyTorch 把五步写在循环里，并多出显式的梯度清零。梯度下降的直觉是「沿损失下降最快的方向挪参数」，Adam 只是这个方向上带自适应步长的变体。评估时关掉训练态与求导，只做前向。读完本节，你应能把任何一侧的训练代码还原成这五步。 会员。《2.5 前向反向与梯度下降》收录于灏天文库文集《TensorFlow、PyTorch 入门实战：快速搭建你的第一个AI模型》，原作者/来源：灏天文库，整理自「灏天文库」，提供技术教程、实践指南与问题解决方案，支持在线阅读、全文检索与知识沉淀，助力开发者系统化学习。本站整理收录，版权归原作者/开源协议所有。

该文档为会员专享，请先登录或注册后再查看

登录 注册

---

作者与出处

原作者： 灏天文库

来源：灏天文库

原文： https://aiknowledge.cn/collection/465-tensorflowpytorch-%E5%85%A5%E9%97%A8%E5%AE%9E%E6%88%98%E5%BF%AB%E9%80%9F%E6%90%AD%E5%BB%BA%E4%BD%A0%E7%9A%84%E7%AC%AC%E4%B8%80%E4%B8%AAai%E6%A8%A1%E5%9E%8B

整理： 灏天文库整理

由灏天文库平台收录，内容或由平台用户上传，仅供学习交流