4.2 Agent 编排与资源池隔离 Agent 是这两年的热点,但很多团队上线 Agent 功能后,整个对话产品的稳定性反而变差了。根因通常是:Agent 请求和普通对话请求混在一起抢资源,而 Agent 是典型的"重请求",会把普通请求挤垮。这一节讲 Agent 请求的特点、为什么必须独立资源池隔离,以及多路调用的流式聚合。 我处理过一个案例:一个团队上线了 Agent 功能(让 AI 帮用户查天气、订餐、写邮件等多步任务),上线第一天,原本稳定的普通对话服务开始间歇性卡顿。排查发现,Agent 任务每个要调用 5 到 10 次模型 + 多次外部工具,单个 Agent 任务的资源消耗是普通对话的 30 倍以上。