3.2 泛化能力与不确定性

文档摘要

3.2 泛化能力与不确定性第三章：AI安全挑战 3.2 泛化能力与不确定性：AI安全的关键维度在构建安全、可靠和值得信赖的人工智能系统时，模型的泛化能力及其对自身预测不确定性的认知是两个核心且相互关联的挑战。它们直接影响AI系统在真实世界、复杂多变环境中的表现，尤其是在安全关键的应用场景下。理解和解决这些问题，对于避免AI系统产生意外或危险的行为至关重要。 3.2.1 泛化能力：从已知到未知的跳跃及其风险定义：泛化能力（Generalization Ability）是指机器学习模型在未曾见过的新数据上表现其在训练数据上学到的模式的能力。一个具有良好泛化能力的模型，能够在与训练数据分布相似的新数据上做出准确的预测或决策。