你向一个对话系统询问某个流程的细节，它没有迟疑，句子完整，语气笃定。你顺着读下去，甚至准备照着做。停一下：它给出了出处吗？这个出处真的存在吗？这类瞬间，正是模型幻觉容易藏身的地方。
顺滑，不等于可靠
模型幻觉，通常指生成式模型输出看似合理、却与事实或给定材料不符的内容。它不一定表现为荒诞错误，更多时候是语气平稳、逻辑连贯，甚至夹带具体名称和步骤。生成机制决定了它擅长续写“像答案的文本”，而不是天然具备查证冲动。当问题留白较多，模型可能用概率上顺眼的表达填补空白，读者感受到的是流畅，风险却藏在细节里。
为什么一眼看不出来
识别难点不只在于真假，而在于包装。一个虚构的引用、一个不存在的条款、一段似是而非的因果解释，都可能和正确内容拥有相近的句法外观。人读长文时容易抓整体意思，忽略可核验的锚点；界面又把回答放在完整气泡里，进一步强化“已经完成”的感觉。若缺少来源展开、时间标注和不确定性提示，模型幻觉就会显得像普通结论。
- 看它是否给出可追溯依据，而不只是“据说”“通常”。
- 把专有名词、数字、时间、引用单独拎出来核对。
- 对必须准确的任务，要求模型区分“材料中的内容”和“推测的内容”。
把它当作草稿，而非判词
讨论模型幻觉，不必走向“完全不能用”或“可以全信”的两端。更现实的做法，是按任务风险分配核验成本：创意发散可以放宽，流程说明、合规文本、对外发布则需要回到原始材料。系统层面，检索增强、引用回链、置信提示都有帮助，但它们减少的是部分错误，不是全部错误。使用者仍要保留一个动作：在关键处问一句“依据在哪里”。
模型幻觉不会因为回答变长就自动消失。真正有用的习惯，是让顺滑的句子先经过一次停顿：哪些是事实，哪些是推断，哪些还需要查。把这一步放进流程，模型才更像可用的写作与思考工具，而不是一台制造确定感的机器。