文档摘要

1.1 AI系统的脆弱性根源 本节摘要：对抗样本现象——人眼看不出的微小扰动让模型彻底误判——之所以存在，根源在于深度学习的几个本质特性。高维空间里，即使每个像素只动一点点，累积起来的变化足以跨越决策边界；模型为追求训练效率做出的线性假设，使得它对输入的微小变化过度敏感；训练分布和真实分布的差距，让模型在没见过的输入上表现不可预测。本节从这几个角度解释脆弱性为什么"内生"于深度学习，以及为什么"测试集准确率高"不等于"模型真的鲁棒"。 会员。《1.1 AI系统的脆弱性根源》收录于灏天文库文集《AI安全与对抗机器学习》，原作者/来源：灏天文库，整理自「灏天文库」，提供技术教程、实践指南与问题解决方案，支持在线阅读、全文检索与知识沉淀，助力开发者系统化学习。本站整理收录，版权归原作者/开源协议所有。

该文档为会员专享，请先登录或注册后再查看

登录 注册

---

作者与出处

原作者： 灏天文库

来源：灏天文库

原文： https://aiknowledge.cn/collection/649-ai%E5%AE%89%E5%85%A8%E4%B8%8E%E5%AF%B9%E6%8A%97%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0

整理： 灏天文库整理

由灏天文库平台收录，内容或由平台用户上传，仅供学习交流