3.4向量夹角和正交（76）

文档摘要

3.4 向量夹角和正交（76）在对向量的长度和两向量之间的距离进行定义的基础上，内积还可以通过定义两向量之间的夹角$\omega$以刻画线性空间中的几何特征。我们使用Cauchy-Schwarz不等式（3.17）定义内积空间中两个向量$x$和$y$之间的夹角$\omega$，这和我们在$\mathbb{R}^{2}$和$\mathbb{R}^{3}$中的结论相同。假设两个向量均布为零，我们有 $$ -1 \leqslant \frac{\left\langle x, y \right\rangle}{\|x\| \|y\|} \leqslant 1. \tag{3.24} $$ 如图3.

3.4 向量夹角和正交（76）

在对向量的长度和两向量之间的距离进行定义的基础上，内积还可以通过定义两向量之间的夹角\omega以刻画线性空间中的几何特征。我们使用Cauchy-Schwarz不等式（3.17）定义内积空间中两个向量x和y之间的夹角\omega，这和我们在\mathbb{R}^{2}和\mathbb{R}^{3}中的结论相同。假设两个向量均布为零，我们有

-1 \leqslant \frac{\left\langle x, y \right\rangle}{\|x\| \|y\|} \leqslant 1. \tag{3.24}

如图3.4所示，在[0, \pi]中有唯一的\omega满足下面的等式：

\cos\omega = \frac{\left\langle x, y \right\rangle}{\|x\| \|y\|}. \tag{3.25}

$余弦函数图像$

图3.4 定义域为[0, \pi]时的余弦函数图像，此时角度值和余弦函数值在 [-1, 1] 内一一对应

而\omega就是x和y之间的夹角。直观意义上，两向量之间的夹角给出了其方向的相似程度，例如两向量x和y=4x（x经过常数缩放后的版本）的夹角为零，因此它们的方向相同。

示例 3.6 （向量之间的夹角）
如图3.5所示，计算向量x = [1, 1]^{\top} \in \mathbb{R}^{2}和y = [1, 2]^{\top} \in \mathbb{R}^{2}的夹角。我们令向量的内积为点积，有

\cos\omega = \frac{\left\langle x, y \right\rangle}{\sqrt{ \left\langle x, x \right\rangle \left\langle y, y \right\rangle }} = \frac{x^{\top}y}{\sqrt{ x^{\top}xy^{\top}y }} = \frac{3}{\sqrt{ 10 }}, \tag{3.26}

于是两个向量的夹角余弦值为\displaystyle \arccos\left( \frac{3}{\sqrt{ 10 }} \right) \approx 0.32\text{ rad}，大约为18^{\circ}。

$向量的夹角$ 图3.5 使用向量 x 和 y 之间的内积计算它们之间的夹角 omega。

内积的一个关键用途是判断向量之间是否正交。

定义3.7（向量的正交）
两个向量 x 和 y 正交（orthogonal） 当且仅当它们的内积为零，即 \left\langle x, y \right\rangle = 0，我们记为 x \perp y。
进一步地，如果 \|x\| = \|y\| = 1，也即两个向量是单位向量，则称它们 单位正交（orthonormal） 。
特殊地，零向量 \boldsymbol{0} 与任意向量都正交。

注：正交性将垂直这一概念推广至通常点积之外的双线性型范畴。在我们的讨论中，可以从几何的角度认为在某一内积下正交的两个向量的夹角为直角。

示例3.7（单位正交向量）
$单位正交向量$ 图3.6 使用不同的内积定义计算得到的两向量$x$和$y$之间的夹角不同
如图3.6所示，考虑向量x=[1, 1]^{\top}, y = [-1, 1]^{\top} \in \mathbb{R}^{2}，考虑它们在不同内积定义下的夹角大小。如果使用通常的点积作为内积，则它们之间的夹角为90^{\circ}，也即x \bot y。但如果使用下面的内积定义则会得到不同的结果：

\left\langle x, y \right\rangle = x^{\top} \left[ \begin{matrix} 2 & 0 \\ 0 & 1\end{matrix}\right] y, \tag{3.27}

可以计算得到在这个内积之下两向量之间的夹角为
\cos \omega = \frac{\left\langle x, y \right\rangle}{\|x\| \|y\|} = -\frac{1}{3} \implies \omega \approx 1.91 \text{ rad} \approx 109.5^{\circ}, \tag{3.28}

于是x和y并不正交。因此在一个内积下正交的两个向量在另一个内积下不一定正交。

定义3.8（正交矩阵）
方阵A \in \mathbb{R}^{n \times n}为正交矩阵当且仅当满足下面的条件：

A A^{\top} = I = A^{\top} A, \tag{3.29}

进而有

A^{-1} = A^{\top}, \tag{3.30}

这是说，正交矩阵的逆是它的转置。

注：一般我们将这些矩阵称为“orthogonal matrix”，严格意义上它们应该叫做“orthonormal matrix”。因为“orthonormal matrix”对应的变换在线性空间内保持向量的长度和向量之间的夹角。译者注：中文中不做区分，统一称为“正交矩阵”。正交矩阵对应的变换在\mathbb{R}^{2}和\mathbb{R}^{3}中属于刚体变换。

正交矩阵作用在向量x上不改变它的长度。当范数为向量点积作为内积诱导的范数时，我们有

\|Ax\|^{2} = (Ax)^{\top}(Ax) = x^{\top}A^{\top}Ax = x^{\top}I x = x^{\top}x = \|x\|^{2}. \tag{3.31}

进一步地，两个向量x和y之间使用内积度量的夹角在同时被正交矩阵作用后依然保持不变。假设内积依然为点积，Ax和Ay之间的夹角余弦值为

\cos \omega = \frac{(Ax)^{\top}(Ay)}{\|Ax\|\|Ay\|} = \frac{x^{\top}A^{\top}Ay}{\sqrt{ x^{\top}A^{\top}Axy^{\top}A^{\top}Ay }} = \frac{x^{\top}y}{\|x\| \|y\|}, \tag{3.32}

以上内容表示，正交矩阵对应的线性变换同时保持长度和夹角。事实上，这些正交矩阵定义了一系列的旋转和翻转。在章节3.9中我们会进一步讨论它们。