4.1 损失函数与优化器

文档摘要

4.1 损失函数与优化器 4.1 损失函数与优化器在模型训练的宏伟蓝图中，损失函数和优化器扮演着至关重要的角色。它们是驱动模型学习、不断提升性能的核心机制。本章将深入探讨损失函数与优化器的原理、常见类型、选择策略以及它们如何协同工作，共同塑造模型的学习轨迹。 4.1.1 损失函数：衡量模型“犯错”的标尺损失函数（Loss Function），也被称为成本函数（Cost Function）或目标函数（Objective Function），是衡量模型预测结果与真实值之间差异的数学函数。其输出值通常是一个非负实数，值越小表示模型的预测越接近真实值，即模型的“犯错”程度越低。在模型训练过程中，我们 V努力最小化损失函数的值，从而使模型学到更准确的映射关系。 4.1.1.