第 4 章 · 模型路由与编排：多模型协同与流式聚合

第 4 章 · 模型路由与编排：多模型协同与流式聚合

导读：高并发平台不会只用一个模型。这一章讲模型路由决策（按成本/延迟/质量选模型）、小模型分流降本、Agent 重请求的资源池隔离，以及把多路调用聚合成一个流式响应的编排艺术。

本章核心问题

1. 请求该给谁？ —— 多模型路由决策。
2. 怎么省钱？ —— 小模型分流简单请求。
3. 重请求怎么不拖垮全局？ —— Agent 资源池隔离。
4. 多路结果怎么合成一个流？ —— 流式编排。

本章小节

• 4.1 多模型路由决策与小模型分流降本 —— 路由策略（规则/分类器/强化学习）、小模型兜底、成本/延迟/质量三角权衡。
• 4.2 Agent 编排与资源池隔离 —— Agent 重请求的特点、独立资源池、多路调用的流式聚合。

小结：路由与编排层是对话引擎的"大脑"，决定每个请求如何被最优地服务。下一章用参考架构把全书串起来。