3.1范数

3.1 范数

当我们考虑几何意义下的向量，也就是原点出发的有向线段时，其长度显然是原点到有向线段终点之间的直线距离。
下面我们将使用范数的概念讨论向量的长度。

定义 3.1（范数）一个范数是线性空间V上的一个函数：

\begin{align} \| \cdot \|: V &\rightarrow \mathbb{R} \tag{3.1}\\ x &\mapsto \| x \|, \tag{3.2}\end{align}

它给出每个线性空间中每个向量x的实值长度\| x \| \in \mathbb{R}，使得任意的x, y \in V以及\lambda \in \mathbb{R}，满足下面的条件：

• （绝对一次齐次）\| \lambda x\| = |\lambda| \|x\|，
• （三角不等式）\|x + y\| \leqslant \|x\| + \|y\|，
• （半正定）\|x\| \geqslant 0，当且仅当x = 0时取等

如图 3.2 所示，在几何中，三角不等式是说任意三角形的两边之和一定大于等于第三边。

虽然定义 3.1 考虑的是所有线性空间（2.4 节），但在本书中，我们仅考虑有限维线性空间\mathbb{R}^{n}。

最后别忘了，我们使用下标i表示\mathbb{R}^{n}中的向量x的第i个分量。

示例 3.1（曼哈顿范数）
\mathbb{R}^{n}上的曼哈顿范数（又叫\mathscr{l}_{1}范数）的定义如下：

\|x\|_{1} := \sum\limits_{i=1}^{n} | x_{i} |, \tag{3.3}

其中| \cdot |是绝对值函数。 图 3.3 的左侧显示了平面\mathbb{R}^{2}上所有满足\| x\| = 1的点集。

示例 3.2 （ Euclid 范数）
向量x \in \mathbb{R}^{n}的* Euclid 范数*（又叫\mathscr{l}_{2}范数）定义如下：

\|x\|_{2} := \sqrt{ \sum\limits_{i=1}^{n} x_{i}^{2} } = \sqrt{ x^{\top}x }, \tag{3.4}

它计算向量x从原点出发到终点的 Euclid 距离（译者注：也就是我们通常意义下的距离）。图 3.3 的右侧显示了\mathbb{R}^{2}平面上所有满足\|x\|_{2} = 1的点集。

注：在本书中，若不指明，范数一般是指 Euclid 范数（式 3.4）。