10.3投影视角

文档摘要

10.3 投影视角接下来，我们将推导主成分分析（PCA）作为一种直接最小化平均重构误差的算法。这一视角使我们能够将PCA解释为实现最优线性自编码器的方法。我们将大量借鉴第2章和第3章的内容。在上一节中，我们通过最大化投影空间中的方差来推导PCA，以便尽可能多地保留信息。接下来，我们将关注原始数据$xn$与其重构$\tilde{x}n$之间的差向量，并最小化这一距离，以便$xn$和$\tilde{x}n$尽可能接近。图10.6展示了这一设置。 1723953707100 图10.7简化的投影设置。(a) A向量x∈R2（红十字）应投影到由b跨越的一维子空间U⊆R2上。(b)表示x和一些候选项˜x之间的差分向量。 10.3.