文档摘要

3.3 参数与权重如何初始化 本节摘要：架构选定后，参数从什么数值起步决定了第一轮训练是健康收敛还是原地卡死。本节讲解全零初始化的对称陷阱、随机与 Xavier/He 初始化的动机、以及随机种子造成的可观察波动，让你明白"换个种子成绩就变"的来源。 离开这一节,你该能说清三件事 阅读完本节，你应当能够： 说清全零/全相同初始化为什么会让神经网络永远学不出区分。 解释 Xavier 与 He 初始化各自为"控制梯度方差"做了什么。 会员。《3.3 参数与权重如何初始化》收录于灏天文库文集《模型训练与调参指南：提高模型性能的秘诀》，原作者/来源：灏天文库，整理自「灏天文库」，提供技术教程、实践指南与问题解决方案，支持在线阅读、全文检索与知识沉淀，助力开发者系统化学习。本站整理收录，版权归原作者/开源协议所有。

该文档为会员专享，请先登录或注册后再查看

登录 注册

---

作者与出处

原作者： 灏天文库

来源：灏天文库

原文： https://aiknowledge.cn/collection/492-%E6%A8%A1%E5%9E%8B%E8%AE%AD%E7%BB%83%E4%B8%8E%E8%B0%83%E5%8F%82%E6%8C%87%E5%8D%97%E6%8F%90%E9%AB%98%E6%A8%A1%E5%9E%8B%E6%80%A7%E8%83%BD%E7%9A%84%E7%A7%98%E8%AF%80

整理： 灏天文库整理

由灏天文库平台收录，内容或由平台用户上传，仅供学习交流