文档摘要

第 4 章 · 模型路由与编排：多模型协同与流式聚合 导读：高并发平台不会只用一个模型。这一章讲模型路由决策（按成本/延迟/质量选模型）、小模型分流降本、Agent 重请求的资源池隔离，以及把多路调用聚合成一个流式响应的编排艺术。 本章核心问题 请求该给谁？ —— 多模型路由决策。 怎么省钱？ —— 小模型分流简单请求。 重请求怎么不拖垮全局？ —— Agent 资源池隔离。 多路结果怎么合成一个流？ —— 流式编排。 本章小节 4.1 多模型路由决策与小模型分流降本 —— 路由策略（规则/分类器/强化学习）、小模型兜底、成本/延迟/质量三角权衡。 4.2 Agent 编排与资源池隔离 —— Agent 重请求的特点、独立资源池、多路调用的流式聚合。

---