5.3 合规与标准

5.3 合规与标准 — AI应用安全与对齐

本节导读：合规不是上线后的"补作业"，而是架构设计阶段的输入条件。本节梳理AI应用安全相关的国际标准与国内法规体系，给出"义务映射→技术落地→证据留存"的合规工程化路径。

学习目标

• 掌握AI安全相关的主要国际标准与国内法规框架
• 学会把法规义务翻译成具体的技术控制项
• 建立合规证据链的文档与审计体系
• 能为所在组织设计合规落地路线图

核心概念

合规体系全景

AI应用的合规义务来自三个层面的叠加：

多数企业需要同时满足两层以上，合规工作量的70%在于识别"哪些条款适用于我"。

关键标准速览

ISO/IEC 27001——信息安全管理体系（ISMS）。定义了组织安全管理的基本框架：风险评估→控制措施→持续改进。AI应用可复用其方法论，但27001不覆盖AI特有的风险（模型幻觉、提示注入、训练数据污染）。

ISO/IEC 42001——AI管理体系（AIMS）。2023年发布的首个AI管理体系国际标准，补上了27001的缺口：要求组织建立AI角色责任、模型全生命周期管理、影响评估机制。对AI应用企业，42001是当前最对口的认证目标。

NIST AI RMF——美国标准研究院的AI风险管理框架。核心价值是给出了风险治理的四个职能维度（治理/映射/度量/管理），被广泛用作内部风险评估的方法论底座。

欧盟AI法案（EU AI Act）——按风险分级监管：不可接受风险（社会评分等）直接禁止；高风险（招聘、信贷等）需满足透明度、人工监督、数据治理等义务；通用模型（GPAI）有专门义务。面向欧盟用户提供服务即受管辖，与中国企业的距离比想象中近。

国内三法一条例——《网络安全法》《数据安全法》《个人信息保护法》构成数据合规基础，叠加《生成式人工智能服务管理暂行办法》对生成式AI提出备案、内容审核、生成内容标识等专门要求。

国内生成式AI的核心义务

对面向公众提供生成式AI服务的企业，暂行办法的主要义务点：

1. 算法备案：具有舆论属性或社会动员能力的算法需备案
2. 训练数据合规：数据来源合法、不含侵权与违法内容
3. 内容安全：生成内容需符合社会主义核心价值观，建立违法内容处置机制
4. 生成标识：AI生成内容需显式或隐式标识（配套强制性国标已落地）
5. 用户保护：投诉举报入口、未成年人保护、真实身份认证

提示注入防御与输出管控（本书主题）正是第3条义务的技术实现——合规要求与安全技术在这里合流。

分步实战

步骤 1：适用性判定

# 合规适用性自查表（节选）
jurisdiction:
  eu_users: false          # 是否面向欧盟用户
  china_public_service: true  # 是否面向境内公众提供服务
data:
  contains_pii: true       # 是否处理个人信息
  sensitive_categories: false  # 是否含敏感个人信息（生物识别/医疗等）
  cross_border: false      # 是否数据出境
ai_features:
  generative_content: true    # 是否生成内容
  decision_making: false      # 是否影响个人重大权益（高风险判定关键）
  profiling: false            # 是否用户画像
​

每个 true 都对应一组具体义务——这张表是合规工作的起点，也是律师沟通的共同语言。

步骤 2：义务到技术控制的映射

合规落地的核心方法论：每条法规义务都必须落到可验证的技术控制项。

步骤 3：证据链建设

"做了"不等于"能证明做了"。合规审计的通行标准是证据链：

# 审计日志的最低字段标准
audit_event = {
    "ts": "2026-08-31T10:00:00Z",   # 时间戳
    "actor": "user_12345",            # 主体
    "action": "content_blocked",      # 动作
    "policy_version": "v2.3",         # 策略版本（可追溯当时的规则）
    "evidence_hash": "sha256:...",    # 相关内容摘要（不存明文，兼顾隐私）
    "result": "blocked_and_logged",   # 处置结果
}
# 日志要求：不可篡改（追加式存储）、覆盖法定留存期、可按主体检索
​

步骤 4：体系建设与认证路径

组织级合规的推进节奏：

第1阶段：差距分析（对照ISO 42001条款逐项自评，输出差距清单）
第2阶段：制度建设（AI安全政策、角色职责、模型上线评审流程）
第3阶段：技术落地（按步骤2映射表实施控制项）
第4阶段：内部审计（模拟审计员视角检查证据链）
第5阶段：外部认证（视业务需要选择认证或仅自评达标）
​

完整示例：一个智能客服产品的合规清单

场景：面向国内公众的生成式客服助手

义务判定：算法备案 ✓ | 内容安全 ✓ | 生成标识 ✓ | 个人信息保护 ✓

技术控制：
1. 输入侧：PII检测（手机号/身份证脱敏）+ 提示注入检测（第2、4章）
2. 输出侧：内容安全审核管道 + 拒答策略 + 显式"AI生成"标识
3. 数据侧：对话日志加密存储、留存6个月、导出审批流
4. 用户侧：投诉入口、停止使用路径、未成年人模式

文档证据：
- 算法备案回执、安全评估报告
- 内容安全策略版本历史与变更审批
- 月度拦截/误拦统计与人工抽检记录
- 数据处理影响评估（DPIA）报告
​

常见问题 FAQ

Q1：只用API调用境外大模型（不自研模型），合规责任在谁？
责任主体仍是服务提供方（你），不因使用第三方API而转移。需额外关注：数据出境合规（用户数据传到境外API的处理）、第三方模型的内容安全可控性、API协议中的数据处理条款。采购第三方能力不等于采购了合规责任。

Q2：企业内部使用的AI工具（不面向公众）需要备案吗？
一般不触发"面向公众提供服务"的备案义务，但个人信息保护、数据安全等基础义务仍然适用。建议对内部工具做数据分级：涉密数据禁用外部API，敏感数据脱敏后使用。

Q3：欧盟AI法案对高风险系统的"人工监督"要求怎么落地？
常见落地形态：影响个人重大权益的决策（如拒贷、拒录）不直接由AI终审，保留人工复核通道与时限；系统提供可解释的决策依据摘要；用户有申诉路径。技术上就是"AI建议+人裁决"的流程设计。

Q4：合规要求日志留存，但对话内容涉及隐私，怎么平衡？
标准做法：存摘要不存明文（PII字段脱敏或哈希）、日志访问权限最小化、留存期满自动删除、日志本身加密。合规义务之间有张力时，"留存最小必要内容+强访问控制"是通行的平衡点。

Q5：标准更新太快，今天合规明天违规怎么办？
把合规做成持续运行的流程而非一次性项目：指定法规定期跟踪责任人、策略版本化管理（新规→策略变更→灰度验证→上线）、每季度合规复查。ISO 42001的PDCA循环正是为此设计。

最佳实践与避坑

• 避坑一：把合规当成上线前的最后一道关卡。正确顺序是"适用性判定→架构设计输入→开发落地→上线审计"，事后补合规的成本是事前的数倍，且有些义务（如训练数据合规）事后无法补救；
• 避坑二：合规文档与技术实现两张皮。每份合规文档都应引用具体的技术控制点与证据位置，审计时"文档说的都能找到系统证据"才叫合规；
• 实践：建立"法规→义务→控制→证据"的四层映射表并持续维护，这是合规体系的中枢文档，认证审计、监管检查、内部自查都用它；
• 实践：与法务建立固定的协作节奏（法规更新同步、新产品上线前合规评审），AI工程师懂法规边界+法务懂技术形态，沟通成本决定合规效率。

本节小结

本节建立了合规工作的工程化框架：先做适用性判定锁定义务范围，再把每条义务映射为可验证的技术控制项，最后用证据链证明"说到做到"。国内生成式AI义务中，内容安全与生成标识恰好与本书的提示注入防御、输出管控主题直接对应——合规与安全本就是同一件事的两个视角。下一节讨论运维监控之后的长期命题：持续优化与创新。

关键词：AI合规, ISO 42001, 欧盟AI法案, 生成式AI管理办法, 算法备案, 数据保护
难度：进阶
预计阅读：40分钟