chapter2 线搜索   最优化问题可以分为无约束最优化问题与约束最优化问题两大类。无约束最优化问题是求一个函数的极值问题,即 $$ \min f(x) \tag{1} $$ 其中$x \in \mathbb{R}^n$为决策变量,$f(x)\in \mathbb{R}$为目标函数。问题$(1)$的解称为最优解,记为$x^{}$,该点的函数值$f(x^{})$称为最优值。问题$(1)$的最优解分为全局最优解和局部最优解,本节介绍的线搜索算法是求局部最优解的算法。本节主要参考了《最优化:建模,算法与理论》和《数值最优化方法》两本书中的相关章节的内容。 2.