文档摘要

本节导读：很多工程师一拿到 DeepSeek V4 就急着敲 ，结果卡在显存、卡在多卡、卡在「为什么同样的命令别人能跑我不能跑」。根因往往是没先搞清楚「这个模型到底长什么样、对硬件有什么硬性要求」。本节专门做一件事：把 V4 的模型特性翻译成「部署时必须面对的约束」，让你后面每一条 vLLM 启动参数都「知其所以然」。读完本节，你应该能对着模型特性说出它对应的显存、算力、并行三类账单。 一、为什么先讲特性，而不是直接上命令 部署一个大模型，最贵的不是显卡，是「试错时间」。当你不理解模型结构就去调参，每一次 OOM、每一次吞吐上不去，都是一次无方向的盲猜。DeepSeek V4 作为 MoE 混合专家架构的旗舰级模型，它的「身体结构」直接决定了你硬件怎么选、参数怎么配、瓶颈会在哪里出现。

---