内容摘要
红队思维 · 像攻击者一样测你的 Agent 灏 灏天文库 · AI 安全与攻防 第 7 期 AI 安全与攻防 · 第 7 期 红队思维 · 像攻击者一样 测你的 Agent red team · 上线前自己先打一遍 前 6 期讲怎么防，第 7 期讲怎么攻—— 主动找自己 Agent 的洞 。红队不是找茬，是上线前自己先打一遍：10 个攻击场景跑一遍，看你的 Agent 漏几个。漏了不可怕， 上线前不知道才可怕 。 ⏱ 约 10 分钟 🎯 Agent 即将上线的工程师 📦 源：OpenAI 红队手册 01 反共识：红队不是"找茬"，是"上线前的保险" 很多团队把红队测试当"找茬"——觉得自己的 Agent 没问题，何必花钱找人攻。真相是：你不攻，攻击者会攻。红队是 上线前自己先打一遍 ，把攻击者会用的招提前跑一遍，发现洞就补，比上线后被攻击者打出来便宜得多。 红队和测试不一样：测试是"验证功能正常"（happy path），红队是"主动找功能不正常"（adversarial path）。测试问"它能做对吗"，红队问"它怎么会被做错"。两个问题都要问，只问前一个等于没测。