一句“听起来很对”的答案
在内容团队里，经常出现这样的对话：有人把一段机器生成的说明贴进文档，句子通顺，逻辑也像那么回事，但再追问细节，才发现其中某个来源、某个时间点并没有依据。模型幻觉这个词，最近被用得太顺口，很多人把它等同于“胡说八道”。可实际遇到的，往往不是明显的胡言乱语，而是自信、完整、甚至比正确答案更像答案的偏离。
这类偏离最难处理的地方，不在于它错，而在于它错得不够显眼。人读一段文字时，会本能地用流畅度判断可信度。模型恰好擅长生成流畅表达，于是“读起来顺”被误当成“事实可靠”。这也是模型幻觉比普通错误更值得警惕的原因：它把校验成本推给了读者。
它不是知识库，而是在续写
从机制上看，语言模型做的是基于上下文预测接下来最可能出现的词句。它学到的是表达模式和统计关联，而不是一套实时可查证的事实数据库。当问题涉及冷门细节、时间边界或需要精确引用的内容时，模型会用相似句式补全空白。这个补全过程未必带有“我知道”或“我不知道”的清晰标记，所以输出看起来仍然完整。
对齐训练会让回答更像在对话：更礼貌、更结构化、更愿意给出结论。这提升了可用性，也可能放大过度自信。一个模型如果总是回答“不确定”，体验会变差；但如果它把不确定藏起来，用户就要自己承担判断成本。模型幻觉的棘手之处，正在于体验与可靠性之间的拉扯。
边界：不是所有“编”都叫幻觉
讨论模型幻觉，需要区分场景。写小说、做头脑风暴、生成比喻时，模型的任务本来就是发散，不是复述事实；这时把创造性表达称为幻觉，反而模糊了问题。更合适的判断标准是：当用户合理期待事实准确、来源可核验时，模型是否给出了没有依据却像有依据的内容。边界清楚，治理才不会变成一句空话。
另一个常见误区，是把幻觉当成单纯的技术故障，等模型升级就会消失。现实更像是一种需要长期管理的不确定性。模型可以变得更谨慎，可以在回答里标注不确定，可以接入检索和引用，但只要它仍以生成连贯文本为核心，就难以保证每一次细节都可靠。
把不确定性摆到台面上
对内容团队来说，更实际的做法不是追求“零幻觉”的口号，而是把校验环节前置。比如，让模型先给出可核验的线索，再让人去确认；对关键结论保留来源位置；在流程里区分“草稿”和“可发布”，不要让生成文本直接穿过审核。工具也可以做一些提示，例如对数字、时间、专有名词做高亮，提醒编辑回查。
更现实的做法，是把这类偏离当作需要管理的不确定性，而不是等待它消失的故障。对使用者而言，最该养成的习惯也许是：先问这句话有没有依据，再看它写得顺不顺。流畅是表达质量，不是事实担保。把这两件事分开，模型才更像一个可用的助手，而不是一个让人放松警惕的答案机器。