残差网络(ResNet) :label: 随着我们设计越来越深的网络,深刻理解“新添加的层如何提升神经网络的性能”变得至关重要。更重要的是设计网络的能力,在这种网络中,添加层会使网络更具表现力, 为了取得质的突破,我们需要一些数学基础知识。 函数类 首先,假设有一类特定的神经网络架构$\mathcal{F}$,它包括学习速率和其他超参数设置。 对于所有$f \in \mathcal{F}$,存在一些参数集(例如权重和偏置),这些参数可以通过在合适的数据集上进行训练而获得。 现在假设$f^$是我们真正想要找到的函数,如果是$f^ \in \mathcal{F}$,那我们可以轻而易举的训练得到它,但通常我们不会那么幸运。