整理资料时,最让人停顿的往往不是模型答不上来,而是它答得太顺:书名像真的,作者像真的,句子也像真的。复制到搜索框一查,才发现那本书并不存在。这类错误常被归入模型幻觉。它麻烦的地方不在于“错”,而在于错误被组织成了可信的叙述。
如果把模型当作检索器,期待它从某个数据库里取出原文,失望会很快出现。它做的事更接近根据上下文续写:哪些词经常一起出现,哪些句式符合解释的口吻,哪些答案看起来完整。语言模式足够强时,空白会被填平,语气会补齐,连不确定也被包装成肯定。于是,一个不存在的引文可能拥有标准的作者名、出版社和页码格式。
它为什么看起来像知道
模型幻觉常出现在需要精确边界的地方:具体出处、日期、条款、数字、人物关系。不是它对这些主题有特殊偏好,而是这些信息要求逐字对应,容错空间小。反过来,在开放讨论、改写、头脑风暴里,生成一段合理的说法并不算大问题,使用者也会自然保留判断。
还有一个容易被忽略的机制:对话会鼓励连贯。上一轮说了一个方向,下一轮它倾向于沿着这个方向补全;用户追问“那具体是哪一年”,它可能不是承认不知道,而是给出一个像年份的年份。此处的问题不是单句错误,而是错误在追问中获得了结构。我们看到的是一段自洽的解释,未必是经过核验的事实。
所以,识别模型幻觉不能只看语气。自信、条理、术语密度,都不能当作证据。反过来,带限定词的答案也不一定可靠。真正有用的检查,是看它有没有把可验证的部分和推测的部分分开:哪里能查到,哪里只是推断,哪里需要回到原始材料。
把问题问窄,把核验做实
日常使用时,可以做一些小动作。它们不复杂,却能减少被带偏的机会。
- 要求模型区分“可核实的信息”和“基于语言的推测”,并说明不确定处。
- 对出处、数字、专有名词单独核验,不把解释性段落当作证据。
- 把问题拆小:先问概念关系,再问具体来源;先让它列出待查项,再逐项确认。
- 在写作和编辑流程里保留人工复核,尤其是引文、标准、技术参数这类内容。
这些动作背后是一个朴素判断:模型可以帮忙组织语言,但不应替使用者承担事实责任。把核验放在流程里,比在事后争论“它是不是在骗人”更有效。模型没有骗人的意图,它只是擅长生成看起来合适的文本;而人需要决定哪些文本可以进入正式材料。
也要承认边界。并非所有场景都值得逐字核验。草稿、提纲、改写、思路扩展,容错空间较大,使用起来可以放松一些;一旦进入对外发布、合同、教学材料或公开说明,模型幻觉的代价就会上升。把场景分级,比笼统地说“AI不可信”或“AI很能干”都更接近实际。
回到开头那本不存在的书。它提醒我们的不是“不要用模型”,而是不要把它当成不会犯错的资料库。模型幻觉会长期存在,因为语言生成和事实核验本来就不是同一件事。使用者能做的是让两者在流程里各就各位:让模型负责展开,让核验负责收口。