文档摘要

自定义与扩展 章导读 恭喜你走到了这里！通过前四章的学习，你已经掌握了 vLLM 的核心架构、关键性能优化策略以及从单机到生产环境的完整部署方案。如果说前四章让你成为一名合格的 vLLM 使用者，那么本章将带你突破天花板，成为一名真正的大模型推理架构师。 vLLM 的强大之处不仅在于开箱即用的推理性能，更在于它提供的灵活扩展能力。在实际生产环境中，几乎没有两个团队的需求是完全相同的——有人需要服务自训练的行业模型，有人需要让 LLM "看懂"图像和视频，有人在超大规模集群中追求极致吞吐，还有人对延迟有着毫秒级的严苛要求。本章将围绕这四大核心扩展方向，为你打开 vLLM 的进阶之门。 5.

---