你问一个看似简单的问题:某份行业报告里有没有提到某个概念。系统很快给出答案,还补了一句“报告第几页有详细说明”。你把报告翻到那一页,发现什么都没有。句子通顺,语气笃定,细节却站不住,这种落差就是很多人第一次撞见模型幻觉的场景。
它像在回答问题,其实在补全文本
大语言模型的基本训练目标,是根据上下文预测接下来更可能出现的词。它学到的是语言中的搭配、结构和知识痕迹,不是一套随时可核验的事实数据库。当问题缺少足够线索,或者训练语料里没有直接答案时,模型仍会沿着“像答案”的方向继续生成。于是,一个不存在的页码、一句被改写的引文、一个看似合理的年份,都可能被流畅地写出来。
这也是模型幻觉麻烦的地方:错误不总是以“我不知道”出现,而常常藏在正确的语气里。人读一段文字时,会借助连贯性判断可信度;模型恰好擅长制造连贯性。读得越快,越容易把“像真的”当成“是真的”。
不是所有错误都叫幻觉
把所有答错都归为模型幻觉,会让问题变得模糊。用户问题本身含糊,模型只能猜意图;资料更新时间不同,答案可能只是过期;多个概念同名,回答也可能张冠李戴。这些情况需要先分清是输入不清、信息陈旧,还是模型在缺乏依据时自行补全。边界划清,后续处理才不会变成一句“模型不可靠”就结束。
我倾向于把模型幻觉理解为一种生成机制带来的副作用:它会在证据不足时继续生产看起来完整的内容。这个判断不意味着要容忍错误,而是提醒使用者,单靠换一个提示词,很难把这类问题彻底清掉。
把不可信拆成可检查的环节
实际使用中,比较稳妥的做法不是要求模型“绝对准确”,而是让答案留下可检查的痕迹。涉及事实、引用、时间、数量时,要求给出处,并回到原始材料核对;需要最新信息时,把检索结果或内部文档放进上下文,让回答受材料约束;对关键结论,拆成几个小问题分别确认,比一次生成一大段更容易发现漏洞。系统层面也可以做答案一致性检查、置信提示和人工复核,把高风险场景挡在自动发布之前。
- 先看问题是否说清楚:范围、时间、对象、口径缺一项,答案就可能跑偏。
- 再看依据是否可追溯:没有出处的具体断言,先当作待核实信息。
- 最后看责任是否明确:哪些答案能自动使用,哪些必须由人确认,要提前划定。
模型幻觉不会因为一次提示词优化就消失。更现实的目标,是让使用者知道它会在哪里出现、用什么方式暴露、由谁来做最后判断。把“看起来像答案”与“可以拿来用”分开,模型的能力才不至于被一句流畅的错话拖垮。