6.2 训练不稳定

文档摘要

6.2 训练不稳定 6.2 训练不稳定生成对抗网络 (GANs) 凭借其强大的生成能力，在图像生成、图像转换、文本生成等领域取得了显著成果。然而，GAN 的训练过程一直面临着不稳定的挑战，这阻碍了其更广泛的应用。训练不稳定主要表现为以下几种形式：模式崩塌 (Mode Collapse): 生成器只能生成有限的、相似的样本，无法覆盖真实数据分布的所有模式。梯度消失 (Vanishing Gradients): 判别器过于强大，导致生成器无法获得有效的梯度信息，训练停滞。梯度爆炸 (Exploding Gradients): 训练过程中梯度过大，导致权重更新幅度过大，模型不稳定。振荡 (Oscillation): 生成器和判别器之间相互竞争，导致训练过程在不同的状态之间跳跃，无法收敛。