4.1 神经网络基础与词向量

文档摘要

4.1 神经网络基础与词向量 4.1 神经网络基础与词向量在机器翻译的演进历程中，神经网络机器翻译 (NMT) 的出现无疑是里程碑式的突破。它彻底改变了传统统计机器翻译 (SMT) 基于短语和特征工程的范式，转而利用深度学习模型直接学习源语言到目标语言的映射。而要理解 NMT 的核心，首先必须掌握其基石——神经网络的基础原理以及至关重要的词向量技术。 4.1.1 神经网络基础神经网络，顾名思义，其结构和工作原理一定程度上受到了生物神经系统的启发。它由大量相互连接的“神经元”组成，这些神经元接收输入、进行处理，并产生输出。 4.1.1.1 神经元 (Perceptron) 最基本的神经元模型是感知器（Perceptron）。一个感知器接收多个输入信号，每个输入信号都带有一个权重。