同事把一段产品介绍粘进对话框，要求“根据这段材料写三条卖点”。几秒后，回答出现了原文没有的认证信息，语气平稳，格式工整。若不是有人回头核对，这类错误很可能直接进入下一道流程。
这就是常见的模型幻觉：输出看起来像答案，依据却不在材料里。它未必荒诞，反而常常顺着上下文补出一个“合理”的细节。语言模型根据大量文本学习词语之间的搭配与延续，倾向于生成概率上顺滑的内容；至于这句话是否有来源、是否与事实一致，并不由语言流畅度自动保证。
错误为什么看起来像答案
模型幻觉通常不是一句明显胡话。它更像语言层面的补洞：材料没写，模型用常见说法填上；问题含糊，它按概率高的方向理解；上下文太长，它把不同段落的信息拼在一起。输出越通顺，读者越容易把“像”当成“是”。
使用方式也会放大问题。只给一句“帮我写准确点”，却没有提供可核对材料，模型只能猜；把整份文档丢进去，却不标出关键段，模型可能在无关内容间建立联系；追问时只问“你确定吗”，也可能得到同样笃定的二次回答。模型幻觉的棘手之处，不只在错误本身，还在错误常带着稳定的语气。
把核验放进流程，而不是放在事后
与其要求模型永不犯错，不如承认它会犯错，并设计能被发现的流程。对事实性内容，让回答回到可追溯材料：涉及资质、参数、承诺的段落，要求附出处或人工确认；对对外发布稿，保留“生成—核对—定稿”的分层动作，而不是让一次输出直接越过分发环节。
- 先限定材料范围：让模型只依据给定文本回答，缺少信息时明确说不知道。
- 再拆小问题：把长文档拆成可定位的段落，减少跨段拼接带来的误读。
- 保留人工闸门：对数字、引用、承诺类表述逐条核对，不把自我检查当成唯一依据。
让模型自我检查有帮助，但不能把它当作全部保障。另一个模型交叉核对，也可能共享相似的盲区。核验动作应落在人、数据和流程上：谁知道业务背景，谁负责确认来源，哪类回答只能作为草稿。
边界清楚，工具才好用
有些任务对模型幻觉更敏感，比如事实陈述、数字引用、对外承诺；有些任务容错更高，比如发散创意、改写语气、整理提纲。边界不等于否定工具，而是决定在哪个环节使用它、在哪个环节停下来。理解模型幻觉，实际是在理解一种概率式写作的边界：它能快速给出语言上成立的版本，却需要外部证据来判断这个版本是否成立。
下次看到一句异常顺滑的回答，不妨先问：这句话的依据在哪一段材料里？如果找不到，就把它当作待核验的草稿，而不是结论。