7.1 模型推理过程详解

文档摘要

7.1 模型推理过程详解第七章：大模型推理与部署领域 - 7.1 模型推理过程详解 7.1 模型推理过程详解 7.1.1 模型推理概述模型推理（Inference），也称为模型预测或模型推断，是指使用训练好的模型，对新的、未见过的数据进行预测或生成的过程。与模型训练阶段不同，推理阶段的目标是利用已学习到的模型参数，快速且准确地得到结果，而无需再进行参数更新。模型推理与模型训练的区别：特征 | 模型训练 (Training) | 模型推理 (Inference) 目标 | 学习模型参数，优化模型性能 | 利用模型参数，进行预测或生成数据 | 训练数据集 (Training Dataset) | 新的、未见过的数据 (New Data) 计算资源 |