第9章线性回归

文档摘要

第9章线性回归在接下来的内容中，我们将应用第 2 章、第 5 章、第 6 章和第 7 章中的数学概念来解决线性回归（曲线拟合）问题。在线性回归中，我们的目标是找到一个函数 $ f $，它将输入 $ \boldsymbol{x} \in \mathbb{R}^D $ 映射到对应的函数值 $ f(\boldsymbol{x}) \in \mathbb{R} $。我们假设给定一组训练输入 $ \boldsymbol{x}n $ 以及对应的带噪声观测值：$ yn = f(\boldsymbol{x}n) + \epsilon $, 其中，$ \epsilon $ 是一个独立同分布（i.i.d.）的随机变量，用于描述测量/观测噪声以及可能未被建模的过程（在本章中我们不会再进一步讨论这些）。