3.5 系统性风险与意外行为

文档摘要

3.5 系统性风险与意外行为第三章：AI 安全挑战 3.5 系统性风险与意外行为在人工智能飞速发展的今天，其应用已深入社会的方方面面，从金融交易到医疗诊断，从交通管理到信息传播。然而，AI 系统的广泛部署和日益增强的能力也带来了新的、复杂的安全挑战。本章的 3.5 节聚焦于其中两个紧密相关的关键议题：系统性风险（Systemic Risks）和意外行为（Unintended Behavior）。这两个概念揭示了 AI 不仅仅可能在个体层面出现故障或被滥用，更可能在其相互作用、大规模部署以及与现有系统耦合时，引发波及整个系统、行业甚至社会的连锁反应和不可预测的后果。引言：为何系统性风险与意外行为至关重要传统的软件安全关注的是单个系统如何抵御攻击或避免故障。