4.3.1.1 熵校准(Entropy Calibrator - KL 散度)


文档摘要

4.3.1.1 熵校准(Entropy Calibrator - KL 散度) 4.3.1.1 熵校准(Entropy Calibrator - KL 散度):为什么你的 TensorRT 量化模型在部署后突然“失忆”?——一个被忽略的 batchsize=1 陷阱与 KL 散度直方图桶数的生死博弈 你有没有遇到过这样的场景? 模型在 PyTorch 中训得漂亮,精度稳如磐石;用 做后训练量化(PTQ),校准阶段 mAP 下降不到 0.5%,一切看起来都那么温柔;可一旦导出为 TensorRT engine,推理结果却像被随机种子诅咒过——分类置信度全乱套,检测框大量漂移,甚至同一张图反复推理,输出 logits 的熵值波动高达 42%。你翻遍日志, 里没有报错;


发布者: 作者: 转发
评论区 (0)
U