2.4 模型集成与管理

2.4 模型集成与管理

本节摘要：智能体的"智商"来自模型。本节讲清 SDK 的模型体系：默认模型与全局设置、按 Agent 指定模型、自定义模型接入、以及多模型管理的策略（按场景路由）。

上手前先明确

阅读完本节，你应当能够：

1. 理解默认模型机制
2. 为 Agent 指定模型
3. 接入自定义模型
4. 按场景管理多模型
5. 选择合适模型

一、问题与直觉

"智能体用哪个模型？"——SDK 的答案是"分层可配"：有默认（全局），也能逐个 Agent 指定，还能接自定义。模型管理的核心策略是"按场景路由"：简单任务用小模型省钱，复杂任务用大模型保质量。

模型选择为什么值得专门讲？因为它是成本与效果的最大杠杆。同样是让智能体"总结一段会议纪要"，用旗舰模型和用轻量模型，token 单价可能差几十倍；而如果把复杂推理任务硬塞给小模型，效果又会明显下降。会配置模型，等于会做智能体的"预算管理"。

二、核心原理

2.1 模型配置的三层

• 全局默认：一个默认模型，未指定时使用
• Agent 指定：按任务覆盖默认
• 自定义：接入非内置模型

2.2 选模型的依据

2.3 模型配置代码

from agents import Agent, Runner, set_default_model

# 全局默认：先设一个便宜的兜底
set_default_model("gpt-4o-mini")

# 简单任务：用默认即可
fast_agent = Agent(
    name="快速问答",
    instructions="简洁回答，不超过三句话。",
)

# 复杂任务：按 Agent 覆盖默认
reasoning_agent = Agent(
    name="深度分析",
    instructions="分步骤推理，给出结论与依据。",
    model="gpt-4o",
)

r1 = Runner.run_sync(fast_agent, "1 加到 100 等于多少？")
r2 = Runner.run_sync(reasoning_agent, "分析一份财报的风险点")
​

三层配置的优先级：Agent 指定 > 全局默认。没有特别理由时，先设一个合理的默认模型，再对少数关键 Agent 单独指定。

2.4 模型参数精细化

from agents import Agent
from agents.model_settings import ModelSettings

agent = Agent(
    name="创作助手",
    instructions="写一段有感染力的文案。",
    model="gpt-4o",
    model_settings=ModelSettings(
        temperature=0.8,
        max_tokens=800,
    ),
)
​

ModelSettings 是"同模型、不同风格"的调节器：温度控制随机性，max_tokens 控制输出长度，还有 top_p、parallel_tool_calls 等参数。工具密集场景建议把 parallel_tool_calls 打开，让模型一次并行调用多个独立工具，显著提速（第 4 章性能优化会再讲）。

三、工程实践要点

3.1 自定义模型接入（概念）

# 实现模型接口，把请求翻译成目标服务的调用
class MyModel(Model):
    def generate(self, input, tools):
        # 调用自有模型服务，返回标准响应结构
        ...

# 通过 set_model_provider 注册，然后正常使用
set_model_provider("my-provider", MyModelProvider())
​

自定义接入适合三类场景：接第三方模型服务、接本地部署的开源模型、接公司内部统一的模型网关。实现的核心是"协议翻译"——把 SDK 的请求格式翻译成目标服务的调用格式，再把响应翻译回来。

💡 关键直觉：模型管理 = 成本管理。同样一批任务，按复杂度路由到不同模型，成本可降一半以上——"最贵的最强"不是最优，"合适的"才是。

3.2 多模型路由策略

路由逻辑：先简单模型试 → 失败/复杂再升级
成本逻辑：90% 请求走小模型，10% 走强模型
监控逻辑：记录每个模型的使用与质量
​

实践中可以这样落地：默认 Agent 用轻量模型处理 90% 的常规请求；检测到任务需要深度推理（比如用户明确要求分析、或者第一次回答质量低），再路由到强模型。路由的判定可以用规则，也可以让一个"路由 Agent"来做。

3.3 模型切换的注意事项

⚠️ 常见坑：全部任务都用最强模型。成本翻倍、延迟更高，效果提升有限——先按场景分层，再根据实测微调路由。

⚠️ 常见坑：换模型不重测。不同模型的"性格"差异很大：同一个指令，A 模型可能严格执行，B 模型可能自由发挥。换模型必须重跑测试用例，别只看一两次输出就下结论。

温故知新

• 要点一：模型三层配置——全局默认、Agent 指定、自定义
• 要点二：按任务复杂度选模型
• 要点三：模型管理 = 成本管理
• 要点四：路由策略——简单先行、按需升级
• 要点五：自定义模型实现接口契约
• 要点六：别全用最强模型，换模型要重测

引擎接好了，下一节装"手脚"——工具与能力扩展。