内容摘要
AST 解析 · 让 Agent 写代码却不爆炸的安全网 灏 灏天文库 · AI 与大模型 第 4 期 AI 与大模型 · 第 4 期 让 Agent 写代码,又不让它 爆炸 AST 解析安全网 · AST sandboxing 让 AI 写代码又不让它炸——靠的是 语法树这道安全网 。AST 解析在执行前扫描代码,拦截危险调用/导入/属性访问。比正则准(懂语法不是猜字符串)、比容器轻(不用起容器)、可定制(白名单你想允许的)。 ⏱ 约 11 分钟 🎯 让 Agent 执行代码、怕它闯祸的工程师 📦 源:smolagents §6 01 一个反共识:正则拦不住,容器太重 拦危险代码的两种常见做法都有问题: 正则黑名单 :匹配 os.system 、 eval 这些字符串。但 __import__("os").system(...) 、 getattr(os,"sys"+"tem") 一绕就过——正则不懂语法,只懂字符串。 容器隔离 :起个 Docker 跑代码。安全,但每次起容器几百毫秒到几秒,Agent 高频调用代码时延迟爆炸,资源开销也大。