深夜改方案时,你问模型某个概念的出处,它给出一个书名、一位作者,还顺手补了两句解释。句子读起来没有破绽,你差点就把这段写进文档。第二天再查,发现书名对不上,作者也像被拼接出来的。这样的时刻,就是模型幻觉常见发生的地方:它没有明显的“错误表情”,反而披着完整、笃定的外衣。
顺滑答案里的细小裂缝
模型幻觉常被理解成胡言乱语,但实际使用中,许多错答并不吵闹。它可能是一个看似合理的定义、一段语气稳妥的总结,或一条不存在的引用。语言模型按上下文预测下一个词,擅长维持表达的连贯,却不会天然核对事实。于是,当它缺少依据时,仍可能沿着顺畅的句子继续写下去。人读到的是一段完整文本,容易把“像”误当成“是”。
它为何能把空白填满
从生成过程看,模型在不确定处并不会自动停下。训练让它学会语言中的搭配、结构和常见说法,也让它习惯给出一个形式上完整的回答。遇到没有把握的问题,它可能用模糊限定、常识拼接或虚构细节来补洞。对使用者来说,风险不只在错,还在错得流畅。
另一个容易被忽略的边界,是提问方式本身。问题越开放、背景越少,模型越需要自行补全前提;补全得越顺,答案越像已经核实过。把问题写窄、把依据要求和输出格式说清,虽然不能消除模型幻觉,却能让错误更容易暴露。
- 问事实出处时,先看能否独立核验,而不是只看语气是否笃定。
- 让它区分“已知”与“推测”,并允许回答“不确定”。
- 把关键结论拆成可查的小问题,逐项确认来源。
把怀疑放回流程里
降低模型幻觉的影响,不能只靠一句“请勿编造”。场景越开放,越需要外部校验:引用要能落到原文,数字要能回到出处,判断要能说明依据。我的看法是,模型适合做草稿、对照和提问,不适合替人承担事实核验责任。把“先信再查”改成“先查再信”,会牺牲一点速度,却能换来稳定的工作习惯。
它不会因为一次提醒就消失。更现实的做法,是承认它会出现在顺滑的句子里,然后在流程中留出核验的位置。需要警惕的,往往不是它明显答错,而是它答得太像真的。