前阵子我向一个语言模型问一个偏冷门的版本变更问题。它没有迟疑，列出三条原因，还给了看似规范的文档名称。我按图索骥去查，文档并不存在，三条原因里有一条也把两个概念揉在了一起。回答很流畅，语气很确定，问题恰恰在这里。
这类现象常被称作模型幻觉。它不只是“答错了”，而是模型生成了一个在语言上高度自洽、在事实上却缺少依据的答案。普通错误容易被察觉，模型幻觉的麻烦在于，它往往带着解释、步骤和引用一起出现，让人误以为背后有一份可核对的材料。
流畅并不等于有据
语言模型的工作方式，决定了它擅长续写“看起来合理”的内容。它从大量文本中学习词语之间的搭配和推理的常见路径，再根据上下文逐个生成下一个词。这个过程接近概率上的连贯，而不是先去资料库里确认事实。于是，当问题足够细、训练语料覆盖不足，或者提问方式暗示了一个并不存在的答案时，模型仍可能顺着语言惯性往下写。
这也是为什么模型幻觉有时不容易被察觉。一个粗心的错别字会让人停下来，一段结构完整、术语准确的解释却容易让人放松警惕。尤其当回答里出现“根据某报告”“某文档提到”这类表述时，读者很容易把语言上的确定感当成事实上的确定感。
它为什么不容易自己发现
有人会问：让模型自己检查一遍不就行了？实际使用中，自检能减少一部分问题，却不能当作可靠保证。模型没有天然的“事实账本”，它对自己生成的内容是否真实，并不具备稳定的外部对照。它可能在同一轮对话里继续为前一个错误补充细节，也可能在被告知“请核实”后，换一种说法重复同样的虚构。
因此，现实的做法不是期待模型永远不产生幻觉，而是把验证环节放回流程里。对于需要引用来源的问题，要求它给出可追溯的原文出处，而不是只给结论；对于关键判断，把模型输出当作草稿或线索，而不是直接依据；在提示中明确“不知道就说不知道”，有时能降低强行作答的概率，但同样不能替代人工核对。
把信任调低一点
模型幻觉提醒我们，生成能力与核实能力并不是同一件事。一个系统能把话说圆，不代表它知道自己在说什么。对普通使用者来说，一个实用的习惯可能是：先看回答有没有可验证的锚点，再看它的语气有多确定。语气顺畅、结构完整时，不妨多问一句“依据在哪里”。
这不是要否定模型的价值。它在整理思路、生成初稿、扩展角度上确实省力。但在需要事实准确的地方，需要把模型幻觉当成一个需要被管理的特征，而不是偶发的故障。信任可以给，但不妨分层次给：创意和表达可以放宽，事实和引用则要收紧。