第5章：稳定性

文档摘要

第5章：稳定性编辑：赵志民，李一飞，王茂霖，詹好本章前言本章将探讨学习理论中的稳定性。在前一章中，我们介绍了不同的复杂度度量方法，并给出了与特定算法无关的泛化界限。然而，这些泛化界限是否能通过分析特定算法的性质得到更好的学习保障？这些分析是否能够扩展到具有相似性质的其他学习算法上？本章旨在回答这些问题，通过算法稳定性的应用推导出依赖于算法的学习保证。 5.1 【概念解释】留一交叉验证的风险 90页中提到的留一风险（leave-one-out risk）是指依次从数据集中移除某一数据后，利用剩余数据训练的模型与被移除数据之间的风险。本质上，这保证了用于风险测试的数据不会包含在训练集中，类似于模型选择时的留一验证。 5.2 【证明补充】均匀稳定性与泛化误差上界 92页中，定理5.