AI安全与攻防

AI安全与攻防是灏天文库知识广场的公开工坊集，收录已审核通过的知识页。

作者：灏天

知识页

你的 Agent 是攻击面 · 提示词注入怎么防

越狱攻防 · 让模型说出不该说的

沙箱逃逸 · Agent 写的代码怎么跑不出去

提示词泄露 · 你的系统提示被扒了

间接注入 · Agent 读到的网页里藏了指令

工具滥用 · Agent 被诱导删库

红队思维 · 像攻击者一样测你的 Agent

对齐与安全 · RLHF 之外的最后一道闸

返回知识广场在知识工坊里打开