本节摘要:大模型最有趣的应用形态不是聊天机器人,而是 Agent——能自主规划、调用工具、执行多步任务的智能体。2026 年,Agent 框架从"能跑通 Demo"进化到了"能在生产环境稳定工作"。本节对比 LangChain/LangGraph、CrewAI、AutoGen 三大框架的设计哲学和适用场景。
阅读完本节,你应当能够:
让 LLM 回答"今天北京天气怎么样"很简单。让 LLM 完成"帮我订明天去上海的高铁,到了之后打车去酒店,把行程发到团队群里"——这就需要一个 Agent。
区别在哪?后者需要:任务分解(订票、打车、发消息)、工具调用(12306 API、滴滴 API、企业微信 API)、状态管理(订票成功后才能打车)、错误处理(没票了怎么办)。
这就是 Agent 框架要解决的问题:给 LLM 一个"手脚"和一套"工作流程",让它不只是说,而是做。
每个 Agent 框架本质上都在实现这个循环,差异在于:
| 维度 | LangChain/LangGraph | CrewAI | AutoGen |
|---|---|---|---|
| 设计哲学 | 通用编排引擎 | 角色扮演协作 | 多 Agent 对话 |
| 核心抽象 | Chain → Graph | Crew → Agent → Task | Agent → GroupChat |
| 多 Agent | LangGraph 支持 | 原生支持 | 原生支持 |
| 工具调用 | 最丰富(100+ 集成) | 中等 | 中等 |
| 学习曲线 | 陡峭 | 平缓 | 中等 |
| 生产就绪度 | 高(LangSmith 监控) | 中 | 中 |
| 社区活跃度 | 极高 | 高 | 高 |
| 适合场景 | 复杂工作流、RAG + Agent | 团队协作模拟 | 研究、代码生成 |
💡 关键直觉:LangChain 是"瑞士军刀",什么都能做但需要自己组装;CrewAI 是"剧本杀",给每个 Agent 一个角色让它们协作;AutoGen 是"圆桌会议",多个 Agent 通过对话达成共识。
什么时候用单 Agent,什么时候上多 Agent?
单 Agent 够用:任务线性、工具明确、不需要不同"视角"。比如:文档问答 + 搜索 + 发邮件。
需要多 Agent:任务需要不同专业能力、需要"审核"机制、或者需要并行处理。比如:一个 Agent 写代码、一个 Agent Review、一个 Agent 写测试。
┌──────────────────────────────────────────────┐ │ 单 Agent vs 多 Agent │ ├──────────────┬───────────────────────────────┤ │ 单 Agent │ 任务线性、工具少、不需要审核 │ │ │ 例:RAG 问答 + 格式化输出 │ ├──────────────┼───────────────────────────────┤ │ 多 Agent │ 任务复杂、需要专业分工或审核 │ │ │ 例:代码生成 + Review + 测试 │ └──────────────┴───────────────────────────────┘
| 你的场景 | 推荐框架 | 原因 |
|---|---|---|
| 快速原型验证 | CrewAI | 上手最快,角色定义直观 |
| 生产级 RAG + Agent | LangChain + LangGraph | 生态最完善,有 LangSmith 监控 |
| 代码生成与自动修复 | AutoGen | 内置代码执行环境 |
| 复杂业务流程自动化 | LangGraph | 状态机支持,流程可控 |
| 研究实验 | AutoGen | 灵活的对话拓扑 |
⚠️ 过度工程化:不是所有任务都需要 Agent。如果任务可以写死流程,用普通代码比 Agent 更可靠。Agent 的价值在于处理"不确定"的任务。
⚠️ 工具调用不可靠:LLM 生成的工具调用参数经常出错。务必加参数校验和重试机制。生产环境建议用 LangChain 的 Structured Output 做强制格式约束。
⚠️ 成本失控:Agent 每一步都要调用 LLM,一个复杂任务可能消耗几十次 API 调用。设置最大步数限制和 token 预算。
单靠模型记忆做业务问答,回答范围受上下文窗口限制,还容易一本正经地编造。业界主流的做法是把 RAG 和 Agent 结合:检索层负责把外部知识搬进上下文,Agent 负责决定"什么时候检索、检索什么、怎么用检索结果"。常见形态有两种。轻量形态是"检索后问答":问题进来先检索,检索结果拼进提示词,模型直接回答,适合知识库问答这类相对确定的任务。重量形态是"检索型 Agent":模型被允许反复调用检索工具、追问澄清、合并多个来源,适合需要多步推理的调研类任务。前者用 LlamaIndex 就能搭,后者需要 LangGraph 这类支持状态管理的框架。
Agent 的输出没有标准答案,评估比传统模型评估更麻烦。实用的做法是把评估拆成三层:工具调用是否正确(参数、目标、时序)、中间状态是否合理(规划步骤有没有绕路、有没有重复动作)、最终结果是否可用(对照人工期望)。工具调用层可以自动化断言,中间状态和最终结果需要抽样人工评审加少量指标(任务完成率、平均步数、错误恢复次数)。把这三层评估固化进 CI,每次改提示词或框架版本都能看到回归,Agent 系统才不会变成黑盒。
AI 开源生态讲完了。下一章我们转向云原生与 DevOps——另一个在 2026 年持续演进的重要领域。