文档摘要

5.1 高并发大模型服务参考架构与容量规划 前四章把分层和原理讲透了，但很多工程师反馈：原理看懂了，真到要落地时，还是不知道"我支撑 50 万 QPS 到底要多少台机器、怎么配比"。这一节把前四章的四层抽象落成一张可部署的参考架构，并给出从 QPS 反推资源的容量规划方法——让你面对"支撑 N 万 QPS 需要多少资源"这类问题时，有公式可依，而不是拍脑袋。 我自己做过多次容量规划，最深的体会是：容量规划的本质是"用结构化的算式，替代直觉和拍脑袋"。没有公式的规划，要么过度预留（浪费成本），要么预留不足（大促崩盘），很难刚好。有了公式，至少能算出一个基线，再根据业务特征做调整。

---