生成网络

文档摘要

生成网络课前测验循环神经网络（RNN）及其门控单元变体，如长短期记忆单元（LSTM）和门控循环单元（GRU），提供了一种语言建模机制，可以学习词序并为序列中的下一个词提供预测。这使得我们可以使用RNN进行生成任务，例如普通文本生成、机器翻译甚至图像描述。 ✅ 思考一下你曾经从文本补全等生成任务中受益的情况。研究一下你最喜欢的应用程序，看看它们是否利用了RNN。在我们之前讨论的RNN架构中，每个RNN单元都会输出下一个隐藏状态。然而，我们还可以在每个递归单元中添加另一个输出，这将允许我们输出一个序列（与原始序列长度相同）。此外，我们可以使用不接受输入的RNN单元，仅接受一些初始状态向量，然后产生一系列输出。