4.3 训练后量化（PTQ, Post Training Quantization）

文档摘要

4.3 训练后量化（PTQ, Post Training Quantization） 4.3 训练后量化（PTQ）：在精度与效率的钢丝上行走的艺术当我们在TensorRT的推理流水线上按下“加速”键，真正撬动性能跃迁的支点，并非仅仅是CUDA核心的堆叠或内存带宽的拓宽——而是那场静默却惊心动魄的数值革命：将浮点世界里丰饶却沉重的32位实数，压缩为紧凑而锋利的8位整数。这不是简单的舍入游戏，而是一场在信息熵、硬件约束与任务鲁棒性之间精密求解的多目标优化。训练后量化（Post-Training Quantization, PTQ），正是这场革命中最富现实张力的一章——它不触碰模型训练过程的神圣契约，却要在冻结权重、固定结构、仅凭有限校准样本的前提下，完成一场近乎“外科手术式”的数值重铸。