前阵子同事让我帮忙看一份产品说明，说已经用大语言模型润过一遍。文字确实顺，长句短句错落，连标点都整齐。读到第三段时我停住了：一个参数前后对不上。回去翻原稿，错在原文，模型把错误原样保留，还顺手把它包装得更像结论。
这类事遇到几次之后，我对“读起来顺”这件事的信任度就降下来了。语言流畅和内容可靠是两条不同的线，只是它们经常被同一段文字同时呈现，让人误以为是一回事。
它接的是下一个词，不是下一个事实
要理解这种错位，得回到大语言模型的核心动作：给定前面的文本，估计下一个词出现的可能性，然后从中取样。训练过程围绕的都是这件事——什么样的词序在人类语料里更常见、更合理。它学到的是一套关于语言分布的统计直觉，而不是一张可以随时查证的事实表。
所以它写下“该产品支持连续工作十二小时”时，句子结构是稳的，语气是顺的，但“十二”这个数字本身并没有经过核对。它只是在这个位置、这个语境里一个合理的词。合理的词和正确的词，很多时候重合，但不总是。
更麻烦的是，模型对自己哪一步不确定，往往没有清晰的内省。人在写错时会犹豫、会回头翻资料，而模型的输出流程里没有一个天然的“停一下”的开关。除非训练时专门教过它在某些情形下表达保留，否则它会用同样的语气说完确定的和不确定的部分。
链条一长，偏差会被语言抹平
单句层面的问题还容易发现。真正难查的是多步推导：中间某一步假设偏了，后面的推理仍然可以顺着这个偏掉的前提往下走，而且越走越顺，因为语言模型的擅长之处正是让前后文看起来连贯。结果是一段逻辑自洽、起点却站不住的文字。
这也是我在用这类工具时格外警惕的地方：错误不会以“错误”的样子出现，它通常以“完成度很高”的样子出现。
- 给它现成材料做重组、压缩、改写，通常比较稳，因为任务落在语言层面。
- 让它凭空给出事实、数字、出处，需要逐条回到原始来源核对。
- 让它做多步计算或长链推理，建议要求它把每一步写出来，方便中途叫停。
把它放在生成的位置，而不是校验的位置
我现在的用法是：让它一次给出几个不同角度的版本，我来挑；让它扮演一个挑剔的读者，指出文里的漏洞；让它把一段晦涩的话改写成给外行看的说法。这些用法都建立在同一个前提上——它负责产出可能性，判断留在我这边。
反过来的用法，比如让它确认某个说法是否成立、某个数字是否准确，我基本不做，或者做了也只当线索。它的回答可以作为查找的起点，不宜当作终点。
这并不是说大语言模型有局限就该被轻视。它把很多过去需要人从头做的文字工作，变成了挑选和修改的工作，这个变化是实在的。只是这种能力有明确的形状：长于语言的组织与变形，短于事实的确认与边界的自知。用的人心里有这张地图，出错的时候就不至于措手不及。
回到开头那份说明。后来我们改的做法很简单：先用它把结构捋顺，再对着原始资料逐条核对事实。顺序调了一下，返工少了很多。