红队思维 · 像攻击者一样测你的 Agent

01反共识：红队不是"找茬"，是"上线前的保险"

很多团队把红队测试当"找茬"——觉得自己的 Agent 没问题，何必花钱找人攻。真相是：你不攻，攻击者会攻。红队是上线前自己先打一遍，把攻击者会用的招提前跑一遍，发现洞就补，比上线后被攻击者打出来便宜得多。

红队和测试不一样：测试是"验证功能正常"（happy path），红队是"主动找功能不正常"（adversarial path）。测试问"它能做对吗"，红队问"它怎么会被做错"。两个问题都要问，只问前一个等于没测。

关键认知：红队是持续的，不是一次性的。Agent 每次加新工具、换模型、改提示，都要重新跑一遍——昨天守得住的，今天加个工具可能就漏了。

02红队检查单：10 个攻击场景自测

下面是 10 个最常见的攻击场景，对应前 6 期讲过的防御。逐条标"通过/未通过/未测"，看你的 Agent 整体得分和哪类防御最弱。

03红队怎么跑：分类、定级、回归

红队不是随便试几下，要按方法跑：

1. 分类：把攻击场景按类别分（注入/对齐/泄露/工具/沙箱/数据/资源），每类对应一套防御。哪类漏得多，就重点补哪类。
2. 定级：每个场景按影响定级——不可逆（删库、外泄）= 高危，可逆（读文件）= 中危，骚扰（耗 token）= 低危。高危先补。
3. 回归：补完后重跑一遍，确认补住了。Agent 每次改版都要回归，不是补一次就一劳永逸。

关键认知：红队的产出不是"我测过了"，而是"我测过且补过且回归过"。只测不补等于没测，补了不回归等于没补。

04带走这套清单