开会时,有人把一段由模型生成的解释投到屏幕上。句子完整,逻辑顺,甚至带着“因此”“显然”这样的连接词。讨论往前推进了几分钟,才有人停下来问:这句话的依据在哪里?
这类停顿,往往比报错更值得留意。模型幻觉并不总是荒唐的错答,它更像一种过度顺滑的表达:语言形式足够可信,内容却缺少可核验的支撑。对使用者来说,难处不在于看见错误,而在于错误被包装成了顺畅的答案。
它为什么看起来像真的
语言模型的工作方式,决定了它擅长预测下一段文字,而不是天然携带一个事实数据库。当问题缺少明确来源,或者上下文里有模糊线索时,它仍可能继续补全,把不确定填成确定。于是,模型幻觉常出现在边界处:冷门概念、时间敏感的信息、需要精确引用的段落,以及多轮对话中被悄悄改写的前提。
还有一个容易被忽略的因素:语气。模型没有稳定的“我确定/我不确定”开关,它可以用同样平静的句式说出可靠结论和不可靠猜测。人会把流畅、完整、礼貌误当成可信,这是一种阅读习惯,也是一种产品风险。
识别它,不能只靠“再问一遍”
让模型自我检查,有时能发现问题,但它也可能继续为自己的表达补理由。更稳妥的做法,是把核验拆成外部动作。
- 先看答案是否给出可追溯依据,而不是只看结论是否顺耳。
- 把关键事实拆成小问题,逐项确认,避免一整段话蒙混过关。
- 对时间、数量、引用和因果关系保持更高警惕,这些位置更容易出现看似合理的填空。
- 在流程里保留人工复核点,尤其是对外发布、合同沟通、技术说明等容错空间较小的场景。
这些方法不新鲜,难点在于愿不愿意为它们留出时间。模型越快,人越容易跳过停顿;而模型幻觉恰恰喜欢藏在被跳过的停顿里。
产品能做的,不是假装它不会错
如果界面只展示一个漂亮答案,用户就很难判断哪里需要复核。更合理的设计,是把不确定性显性化:哪些内容来自用户输入,哪些是模型补全,哪些需要外部来源确认。不是每句话都要加免责声明,而是在关键节点给出可操作的提示。
我倾向于把模型幻觉看成一种系统性边界,而不是偶发故障。它提醒我们,生成能力与核验能力必须一起设计。对写作者、产品经理和普通使用者来说,重要的不是追求“永不犯错”的承诺,而是建立一种习惯:先欣赏表达的顺滑,再追问支撑它的东西在哪里。