你问一个冷门问题,屏幕那头的回答没有停顿:时间、地点、人物关系都齐整,语气也笃定。可你去核对,发现其中一处细节对不上,顺着再查,更多地方开始松动。这种体验并不罕见。所谓模型幻觉,常常不是明显的胡言乱语,而是用顺畅的叙述把空白填满,让不确定看起来像确定。
它常是“补全”,而非“撒谎”
语言模型的工作方式,决定了它擅长根据上下文生成合理延续。它并不天然拥有一份可逐条核对的事实清单,也不总是知道自己的知识边界。当问题缺少足够线索,或者提问方式暗示了一个并不存在的答案,它可能沿着语言惯性继续写下去。于是,一个听起来合理的年份、一句像原文的引文、一段符合格式的说明,都可能被组织出来。把这种行为理解成“撒谎”并不准确,它没有隐瞒动机;接近事实的说法是,它在做高概率的文本补全,而事实校验并没有同步发生。
这也是模型幻觉难被一眼识破的原因:错误不在语法,也不在逻辑表面,而在那些看似不重要的细节里。人读一段文字时,常先判断语气是否连贯、结构是否完整,再决定要不要核对来源。模型恰好擅长满足前一层期待,于是读者容易把“读起来像”误当成“查得到”。
具体,反而值得慢一点
使用中有一个朴素的经验:回答越具体,越要留意它的依据。泛泛而谈时,错误往往模糊;一旦出现精确到日期、页码、条款编号的表述,可信感会迅速上升,但核验成本也随之增加。问题不在于具体本身,而在于具体是否来自可追溯的信息。若模型无法说明来源,或只能给出笼统的“根据相关资料”,那些细节就需要被暂时放回待确认的位置。
另一个容易被忽略的触发场景,是把开放问题包装成封闭选择。比如问“某本书的第三章主要讲了哪两个概念”,问题本身已经预设了章节和数量。模型可能顺着预设作答,而不是先指出前提未必成立。类似地,要求它“列出五个原因”“补充一段原文”,也会增加编造细节的压力。稳妥的提问方式,是允许它回答“不确定”,或者先让它说明需要哪些信息才能判断。
对普通使用者来说,识别模型幻觉不必依赖复杂工具。可以看它是否把模糊前提当成确定事实,是否给出无法追溯的精确信息,是否在追问后不断改口却仍保持同样语气。也可以把同一个问题换一种问法,观察关键细节是否稳定。若两次回答在核心事实上摇摆,至少说明那里不该被直接采信。需要说明的是,这些方法只能降低风险,不能把生成内容变成事实本身。
把怀疑留在流程里
我愿意把模型看成一位反应很快的协作者,而不是一位自带审计的答者。它适合起草、改写、提供思路、暴露表达中的断点;涉及事实、引用、规范时,仍需要人回到原始材料。团队使用这类工具时,与其追求“完全不犯错”的承诺,不如把核对动作写进流程:哪些内容可以直接用,哪些必须标注来源,哪些需要第二个人确认。流程不浪漫,但它稳定、可重复。
模型幻觉不会因为一次提醒就消失,也不该被夸大成无法使用的缺陷。它提醒我们,流畅和准确是两件事。把这句话记住,很多使用中的误判会少一些:当答案过于顺滑时,先别急着相信,看看它有没有留下可以走回去的路。