凸性

文档摘要

凸性 :label: 凸性（convexity）在优化算法的设计中起到至关重要的作用，这主要是由于在这种情况下对算法进行分析和测试要容易。换言之，如果算法在凸性条件设定下的效果很差，那通常我们很难在其他条件下看到好的结果。此外，即使深度学习中的优化问题通常是非凸的，它们也经常在局部极小值附近表现出一些凸性。这可能会产生一些像 :cite: 这样比较有意思的新优化变体。定义在进行凸分析之前，我们需要定义凸集（convex sets）和凸函数（convex functions）。凸集凸集（convex set）是凸性的基础。