3.5模型初始化

文档摘要

3.5 模型初始化在深度学习模型的训练中，权重的初始值极为重要。一个好的初始值，会使模型收敛速度提高，使模型准确率更精确。一般情况下，我们不使用全0初始值训练网络。为了利于训练和减少收敛时间，我们需要对模型进行合理的初始化。PyTorch也在中为我们提供了常用的初始化方法。通过本章学习，你将学习到以下内容：常见的初始化函数初始化函数的使用 torch.nn.init内容通过访问torch.nn.init的官方文档链接，我们发现提供了以下初始化方法： 1 . (tensor, a=0.0, b=1.0) 2 . (tensor, mean=0.0, std=1.0) 3 . (tensor, val) 4 . (tensor) 5 . (tensor) 6 .