6.5 基于Transformer模型

文档摘要

6.5 基于Transformer模型 6.5 基于 Transformer 模型的时间序列异常检测 Transformer 模型最初在自然语言处理（NLP）领域取得了巨大成功，其自注意力机制能够有效地捕捉序列中的长程依赖关系。近年来，研究人员发现 Transformer 模型在时间序列分析领域，尤其是异常检测方面，也具有强大的潜力。 6.5.1 Transformer 模型的核心机制回顾在深入探讨 Transformer 模型在时间序列异常检测中的应用之前，我们先简要回顾一下 Transformer 的核心机制：自注意力机制 (Self-Attention): 自注意力机制允许模型在处理序列的每个位置时，考虑到序列中所有其他位置的信息。