title: '安全、合规与局限性'
description: '理解智能体系统真实的风险面，以及生产级安全边界该如何设计'​

安全、合规与局限性

很多关于智能体的讨论，都在强调它能做什么：读文件、跑命令、调 API、连续完成长任务。但一旦这些能力真正进入生产环境，问题很快就会变成另一种问法：它可能出什么事？一旦出事，又该靠什么边界把影响兜住？

这个栏目篇幅不长，却回答了生产级智能体系统最基础的两个问题。第一，威胁从哪里来：提示注入、工具滥用、权限扩张、数据泄露，以及能力组合之后带来的系统性攻击面。第二，当你已经知道这些问题迟早会发生，系统边界该怎么设计，才能既保留能力，又把事故半径控制在可承受范围内。

读完这一栏，你不该只得到“要注意安全”这种正确但无用的结论，而应获得两种真正可落地的判断：一是识别智能体系统里最危险的接口与耦合点，二是理解不同边界模型分别适合什么场景、能挡住什么问题、又会牺牲哪些能力。

文章列表

AI 代理已经到来，威胁也随之而来

作者：Jay Chen, Royce Lu
日期：2025-05-01
核心观点：智能体系统的风险并不是抽象的“不可控”，而是一组会沿着工具链、权限链和外部接口不断扩散的具体攻击面。

你将学到：

• 如何用更贴近实战的方式理解提示注入、工具滥用与权限扩张
• 典型攻击场景分别暴露了系统哪些薄弱点
• 为什么很多高风险问题来自能力组合，而不是单次模型输出
• 做多层防御时，哪些控制点最值得优先投入

智能体架构中的安全边界

来源：Anthropic 安全团队
核心观点：安全边界的价值，不在于简单“多加限制”，而在于把能力范围、隔离方式和责任边界一起设计清楚。

你将学到：

• 从零边界到完整沙箱，不同边界模型分别适合什么业务场景
• 该如何判断隔离应该做在工具层、执行层还是环境层
• 为什么最安全的方案未必就是最适合生产的方案
• 设计权限与执行环境时，哪些底线必须先守住

返回：优质文章篇