文档摘要

1.2 主流推理框架对比：为什么选 vLLM 本节目标：读完后，你能在选型会上用三句话把"为什么用 vLLM 部署 DeepSeek V4"讲服人，并且知道在什么特殊场景下该考虑别的框架。我们不站队，只站在"高并发部署 DeepSeek V4"这个目标上做权衡。 上一节我们建立了 DeepSeek V4 的"部署约束"：显存看总参数、算力看激活参数、上下文按需分配、多卡并行是前提。这一节，我们拿这些约束去"考"候选推理框架，看谁最贴合。选框架不是比谁口号响，而是比谁的机制能接住你的真实约束。 一、先明确"考纲"：高并发部署要什么 把目标拆成四个可衡量的能力，后面所有对比都围绕它们： 显存利用率：能不能把有限显存里的 KV Cache 用到极致、几乎不产生碎片？这是并发数的硬上限。

---