会议录音转写成文字后，让模型整理纪要，输出常常很顺：议题、结论、待办分得清楚。问题出在其中一行——“对方同意下周启动试点”。回听录音才发现，对方说的是“可以考虑”。句子没有语法错误，也没有明显荒唐之处，这就是模型幻觉的日常形态：把模糊补成确定，把缺失补成合理。
它像真的，因为它在补全
语言模型的工作方式，是根据上下文预测接下来该出现什么。它并不天然先查证再开口。当材料里没有明确答案，或者转写有缺口时，模型容易用通顺的措辞把空白填上。于是，时间、责任主体、数量、态度，都可能被“顺手”写具体。单独看每一句都像人话，放回原文才露出偏差。
这也是模型幻觉麻烦的地方。明显的错答容易被发现，流畅的错答却会混进流程。尤其在会议纪要、产品说明、内部知识库问答里，读者往往先看表达是否顺，再决定要不要核。顺序一反，错误就获得了通行证。
先看它有没有把不确定说成确定
实际使用时，我不会只问“答得对不对”，而会先扫几类信号：
- 是否给出可回到原文的出处，还是只有结论没有依据；
- 是否把“可能”“考虑”“待确认”改写成“同意”“确定”“已经”；
- 是否出现过于具体的时间、数量、责任主体，而原文没有对应信息；
- 前后段落是否互相打架，尤其是同一件事的多个说法。
这些信号不能证明内容一定错，但能提示哪里需要停下来。对关键结论，把原文、转写和生成结果放在一起看，比反复追问模型“你确定吗”有用。模型可以生成解释，却不一定能提供证据。
模型幻觉的边界，取决于这段文字要拿去做什么
不是所有场景都要同一把尺。用来打开思路的草稿、内部讨论的提纲，容错空间可以放宽；对外发布、流程说明、知识库回答，一旦被当作依据，就需要人工核验。差别不在文字长短，而在错误会被谁读到、会不会继续传下去。
我也不认为一句“请勿编造”能解决问题。更实际的做法，是让输出留下可核查的痕迹：保留原始材料，要求标注不确定处，把关键结论与出处放在同一屏。模型负责起草，人负责确认，这个分工听起来不新，却常被流畅的表达掩盖。
模型幻觉不会因为提醒就消失。它能被降低，也会换个地方出现。真正要设计的，不是让模型永远不说错，而是让说错的那一句有机会被看见、被拦住。