预训练网络和迁移学习

文档摘要

预训练网络和迁移学习训练卷积神经网络（CNN）需要耗费大量时间，并且需要大量的数据。然而，大部分时间都花在了学习网络如何从图像中提取模式的最佳低级过滤器上。一个自然的问题出现了——我们能否使用在一个数据集上训练的神经网络来适应分类不同的图像，而不需要进行完整的训练过程？课前测验这种方法被称为迁移学习，因为我们从一个神经网络模型转移到另一个模型时，会将一些知识转移过去。在迁移学习中，我们通常从一个预训练的模型开始，该模型已经在某个大型图像数据集（如ImageNet）上进行了训练。这些模型已经能够很好地从通用图像中提取不同的特征，在许多情况下，只需在这些提取的特征之上构建一个分类器就能获得很好的结果。 ✅ 迁移学习是其他学术领域（如教育学）中也使用的术语。