周会结束后，编辑把录音交给模型整理。原话里有一句“上线时间还没确认”，输出却写成“上线时间已确认”，前后句顺滑，格式整齐。若只看文字，几乎找不到卡顿。可一旦拿去推进事项，错误就被带进下一步。
这类情况常被归入模型幻觉：回答并不只是答错，而是模型在信息不足时补出一个看似合理的版本。它按上下文概率续写，追求连贯、完整、像样，并不天然承担事实核验。问题问得含糊、材料里没有答案、训练语料覆盖不到，模型也可能继续写下去。
流畅语气为什么容易骗过人
阅读一段话时，人们会借助语气、句式和细节判断可信度。模型的输出恰好擅长这些表面特征：分点清楚、措辞稳定、前后照应，甚至会把不确定写成“通常”“一般来说”。这会制造一种错觉，仿佛语气确定就等于证据充分。可语气是生成出来的，证据却需要来源、时间和可核对的关系。
更麻烦的是，模型往往不知道自己在哪一步补了空白。上下文里缺失的字段，可能被常识性猜测填上；两个相似概念，可能被合并成一个；引用位置看似具体，却未必对应真实材料。模型幻觉因此不是某个句子里的明显错误，而是一连串小推断叠出来的可信假象。
工程上能做什么
把输出直接当终稿，风险最高。更稳妥的做法，是把不确定性提前暴露出来，而不是等读者自己发现。
- 让答案尽量带来源，能回到原文、表格或记录；找不到来源时，允许回答“没有足够信息”。
- 把事实陈述和推测分开写，涉及数字、时间、责任主体时设置复核点。
- 在知识库问答里保留检索结果，方便检查答案是否真的来自材料，而不是模型自行补全。
- 记录问题、上下文和输出，定期回看错误集中在哪些环节，再决定是改提示、改检索还是改流程。
这些手段不能消灭错误，但能让错误更早出现。提示词可以提醒模型谨慎，却不能替代来源核验；人工复核会增加成本，却比把错误送进下游更可控。
边界在哪里
模型幻觉很难被彻底清零。生成式系统要在开放语境里工作，就必然面对材料不完整、问题有歧义、边界不清楚的情况。把模型幻觉当作一个需要持续管理的风险项，比把它当成偶发故障更接近实际。产品界面也不该只展示流畅答案，还要展示依据、限制和不确定之处。对使用者来说，看到“这里可能不对”的提示，往往比看到一段漂亮但无法验证的文字更有价值。
更实际的目标，是让错误更早暴露，而不是承诺它不会发生。