4.2 循环神经网络 (RNN)

文档摘要

4.2 循环神经网络 (RNN) 4.2 循环神经网络 (RNN) 循环神经网络 (Recurrent Neural Networks, RNNs) 是一种专门处理序列数据的神经网络。与传统的前馈神经网络不同，RNNs 具有“记忆”能力，能够利用先前时间步的信息来影响当前时间步的输出。这种特性使得 RNNs 在处理自然语言处理 (NLP)、时间序列预测、语音识别等任务时表现出色。 4.2.1 RNN 的基本结构 RNN 的核心思想是在每个时间步将输入和上一时间步的隐藏状态相结合，产生新的隐藏状态和输出。其基本结构可以用下图表示：其中： x\t: 时间步 t 的输入。 h\t: 时间步 t 的隐藏状态，包含了先前时间步的信息。 y\t: 时间步 t 的输出。