1.3 什么是Fine-tuning (微调)

文档摘要

1.3 什么是Fine-tuning (微调) 1.3 什么是Fine-tuning (微调) Fine-tuning (微调) 是迁移学习中一种核心且广泛应用的技术，其本质是在一个已经在大规模数据集上预训练好的模型的基础上，使用特定任务的小规模数据集对其进行进一步训练，从而使模型更好地适应新任务。它不是从零开始训练一个全新的模型，而是利用了预训练模型已经学习到的通用特征和知识，通过调整模型参数来优化其在新任务上的表现。 1.3.1 Fine-tuning 的核心思想 Fine-tuning 的核心思想在于“知识迁移”。预训练模型（通常在海量数据上进行训练，例如ImageNet用于图像识别，或者大规模文本语料库用于自然语言处理）已经学习到了大量通用且有用的特征表示。