文档摘要

第4章 实战案例：DeepSeek V4 的 INT4 量化部署全流程 本章在全书中的位置 走到第 4 章，你已经把「为什么要量化」（第 1 章）、「量化到底怎么算的」（第 2 章）、「量化会损失什么、又该怎么权衡」（第 3 章）这三块理论吃透了。如果说前三章是「看懂原理」，那么本章就是「动手把模型真正跑在你自己的机器上」。 这一章和前面最大的不同在于：它不跟你讲抽象概念，而是带你走完一条从原始权重文件到能在本地对话的 INT4 模型的完整链路。你会亲手完成转换、量化、验证、运行四步，并在过程中建立起一套可复用的「部署 checklist」。学完本章，你应该能在换一个模型、换一张显卡时，依然按同样的流程把事情做对。换句话说，前三章给你的是「判断力」，本章给你的是「执行力」。

---