文档摘要

第三章 高并发进阶原理 读完前两章，你已经能让 DeepSeek V4 在单卡甚至几张卡上「跑起来」，也摸清了 vLLM 的请求链路、PagedAttention 和连续批处理这三大支柱。但「跑起来」和「扛住高并发」之间，隔着一道实实在在的墙：显存不够、算力喂不饱、延迟忽高忽低。 这一章我们不堆名词，而是把高并发部署里最要命的两组原理讲透：并行切分和显存与调度调优。前者决定你能把模型摊到多少张卡、能扛多大吞吐；后者决定你在不 OOM 的前提下，能把每张卡的利用率榨到多高。 一个必须先建立的认知：高并发真正考验的是什么 很多团队把「高并发」简单理解为「多开几个进程、把 batch 调大」。结果往往是：并发一上来，延迟不降反升，GPU 利用率却始终卡在 40% 以下。

---