什么是 AI 幻觉？

AI 幻觉（AI Hallucination）是指大语言模型生成的内容看似流畅自信，实际却与事实不符、无中生有，或偏离用户给定资料的现象。例如请模型介绍一本书，它可能编造出不存在的章节；请它推荐论文，它可能“创作”出作者、期刊全属虚构的文献。

这个词借自心理学的“幻觉”概念。模型并不是在撒谎——它没有欺骗的意图，而是把错误内容当作“最可能的答案”输了出来，因此业内也戏称其为“一本正经地胡说八道”。

快速判断：一条 AI 回答如果语言上无懈可击、事实上经不起查证，大概率就是幻觉。

幻觉是怎么产生的？

原理：一场“预测下一个词”的游戏

大模型的核心任务不是“说出真相”，而是根据上文预测下一个最合理的词。读到“中国的首都是”，“北京”在训练语料中出现概率最高，于是被输出。可一旦问题冷门、语料中相关信息稀少，模型就会顺着语言习惯“顺流而下”，编出一个语法通顺、风格像样的答案——它只保证了“像”，并不保证“对”。

换言之，大模型本质是概率生成器，没有内置的事实核查器：它学到的是语言的统计规律，而非世界的真实规则。

两类典型幻觉

主要成因

• 训练数据缺陷：语料中存在错误、过时或互相矛盾的信息，模型照单全收。
• 知识边界模糊：模型不知道自己“不知道”，面对陌生问题也倾向给出流畅回答。
• 生成机制的概率性：采样带有随机性，温度参数越高，输出越容易跑偏。
• 训练目标偏差：模型被鼓励“回答完整”，有时宁可编造也不愿承认不会。
• 上下文窗口有限：超长对话中早期信息被“挤出”，导致前后矛盾。

代表产品与应对策略

国内主流大模型产品普遍把“降低幻觉”作为重点，通用思路是联网搜索 + RAG（检索增强生成）+ 引用溯源：先从搜索引擎或知识库查到资料，再基于资料作答，并标注来源方便核对。

此外，可灵、即梦等图像与视频生成工具也存在类似现象，如多画手指、画面文字乱码等，可视为多模态版本的“幻觉”。

普通用户的四条实用对策

1. 开启联网或搜索模式：事实类问题让模型“先查再答”，减少凭记忆作答。
2. 优化提示词：要求“仅根据以下资料回答”“不确定请直说”，给模型留出承认无知的出口。
3. 交叉验证：关键信息用第二个模型或搜索引擎核对，重要结论要求给出处。
4. 调低温度参数：开发者可降低采样随机性，使输出更保守稳定。

应用场景：哪里最该警惕幻觉？

• 高风险场景：医疗咨询、法律条文、金融数据、学术引用、新闻写作——出错代价高，必须人工复核。
• 中风险场景：办公写作、代码生成、智能客服——可用，但需抽查关键事实。
• 低风险场景：创意写作、头脑风暴、起名起标题——“幻觉”反而是想象力的来源。

一句话原则：事实交给检索，创意交给模型，决策留给自己。

常见问题

AI 幻觉能被彻底消除吗？

短期内不能。只要大模型仍基于概率预测生成文本，幻觉就难以根绝，它更像模型的“特性”而非单纯缺陷。检索增强、事实对齐训练、引用溯源等技术能大幅压低幻觉率，但在医疗、法律等严肃场景，人工审核仍是必要防线。

为什么开启联网搜索后回答更靠谱？

因为回答依据从“模型记忆”换成了“实时检索到的资料”。模型先读搜索结果再作总结，相当于从闭卷考试变成开卷考试，过时信息与凭空编造都会显著减少；多数产品还会附上来源，便于核查。

普通用户如何快速识别幻觉？

留意三个信号：一是细节精确却查无出处，如具体页码、文献编号；二是追问时答案反复变化或含糊其辞；三是出现查无此人的机构、专家或产品名。遇到这些情况，先搜索验证，再决定是否采信。