2.3 激活函数（Activation Function）

文档摘要

2.3 激活函数（Activation Function） 2.3 激活函数 (Activation Function) 在卷积神经网络 (CNN) 的核心构成中，激活函数扮演着至关重要的角色。它们是赋予神经网络学习复杂、非线性模式能力的关键组件。本节将深入探讨激活函数的作用、必要性以及几种常见的类型。 2.3.1 激活函数的角色与必要性在 CNN 中，卷积层和池化层执行的是线性或近似线性的操作（如加权求和、取最大值等）。如果网络仅仅由这些线性层堆叠而成，那么无论堆叠多少层，整个网络的输出仍然是输入的线性组合。换句话说，一个多层的线性网络等价于一个单层的线性网络，其表达能力非常有限，无法学习和识别图像中复杂的非线性特征，例如物体的形状、纹理、不同部位之间的复杂关系等。