文档摘要

多层网络与前向传播 本节摘要:一个神经元只会画一条直线,把它们堆起来,你就能画出任何形状。1969 年 Minsky 与 Papert 证明了单层网络在数学上无法学会异或——这几乎让神经网络资金断流了十年。事后看,解法显而易见:别只用一层。把神经元堆成层,让第一层把输入空间雕刻成新特征,第二层再把这些特征组合成单条直线做不出的决策。这个堆叠就是多层网络,它是当今所有生产级深度学习模型的根基。而前向传播(Forward Pass)——数据从输入流经隐藏层抵达输出——是你让网络动起来之前必须先搭好的第一件事。本节将用纯 Python(不用 numpy)从零实现 与 类,跑通完整的前向传播,追踪矩阵维度,讲透万能逼近定理,并用一个 2-2-1 网络配合手工调好的 sigmoid 权重破解异或。

---