5.1 过拟合的机制:自由度耗尽 本节摘要:过拟合的机制是自由度对样本信息的挤占——参数、规则开关、试错次数都在消耗样本,每个自由度都能吸收一份噪声,拟合了噪声的策略在样本外必然退化。本节位于防御体系第一站,交付自由度的广义定义与计数器。核心主张:过拟合是算术结果而非道德失败,防御的第一步是把"可调的东西"全部数出来。 样本是燃料,自由度是油耗 先建立量感的框架。 付费。5.1 过拟合的机制:自由度耗尽 本节摘要:过拟合的机制是自由度对样本信息的挤占——参数、规则开关、试错次数都在消耗样本,每个自由度都能吸收一份噪声,拟合了噪声的策略在样本外必然退化。本节位于防御体系第一站,交付自由度的广义定义与计数器。