大模型落地难点之幻觉

文档摘要

hallucinations alt text 什么是幻觉？大模型出现幻觉，简而言之就是“胡说八道”。用《A Survey on Hallucination in Large Language Models》 1 文中的话来讲，是指模型生成的内容与现实世界事实或用户输入不一致的现象。研究人员将大模型的幻觉分为事实性幻觉（Factuality Hallucination）和忠实性幻觉（Faithfulness Hallucination）。 alt text 事实性幻觉是指模型生成的内容与可验证的现实世界事实不一致。比如问模型“第一个在月球上行走的人是谁？”，模型回复“Charles Lindbergh在1951年月球先驱任务中第一个登上月球”。