6.2 约束优化：拉格朗日乘子

文档摘要

6.2 约束优化：拉格朗日乘子第六章：数值优化基础 6.2 约束优化：拉格朗日乘子引言：当自由被边界框定，数学如何优雅转身？在无拘无束的函数世界里，我们习惯于寻找极值——梯度为零，海森矩阵半正定，一切都井然有序。然而现实从不如此慷慨。工程设计必须满足材料强度限制，金融投资不能突破风险阈值，机器学习模型需服从正则化约束。于是我们的问题从“哪里最小？”变成“在哪些条件下最小？” 这就是约束优化登场的理由。它不是对自由的剥夺，而是对智慧的考验。拉格朗日乘子法（Lagrange Multiplier Method），作为这一领域最优雅、最深刻、最具启发性的工具，将看似棘手的带约束极值问题，转化为一个更高维度但结构清晰的无约束问题。它像一把钥匙，轻轻一转，打开了通向多维空间最优解的大门。