05 安全、合规与局限性

文档摘要

title: '安全、合规与局限性' description: '理解智能体系统真实的风险面，以及生产级安全边界该如何设计' 安全、合规与局限性很多关于智能体的讨论，都在强调它能做什么：读文件、跑命令、调 API、连续完成长任务。但一旦这些能力真正进入生产环境，问题很快就会变成另一种问法：它可能出什么事？一旦出事，又该靠什么边界把影响兜住？这个栏目篇幅不长，却回答了生产级智能体系统最基础的两个问题。第一，威胁从哪里来：提示注入、工具滥用、权限扩张、数据泄露，以及能力组合之后带来的系统性攻击面。第二，当你已经知道这些问题迟早会发生，系统边界该怎么设计，才能既保留能力，又把事故半径控制在可承受范围内。