一份周报草稿里，模型补了一句看似合理的因果解释。读起来顺，语气也像总结，可翻回原始记录，没有对应依据。它没有胡言乱语，只是把空白填成了可读内容。这类现象常被叫作模型幻觉。
顺滑不等于可靠
模型幻觉的麻烦不在于一眼看出的错，而在于它常以连贯表达出现。语言模型擅长预测下一个词，当材料不足时，可能用常见句式补全。结果像结论，细看却没有来源。
开放问答里，人们容易保持警惕；一旦放进工作流，反而可能因为格式正确、语气合适而放过。真正的风险，不是错得离谱，而是错得刚好能通过初筛。
验收要盯依据，而非语气
把模型输出接进流程后，验收问题需要改一改：哪句话来自给定材料，哪些是推断，哪些是模型补写？如果答不上来，这份输出就不该直接进入下一环。
- 要求关键句子能回到具体段落，而不是只给模糊出处。
- 把不确定表达保留下来，不强迫每段都有完整结论。
- 对数字、时间、责任主体等字段做单独核对。
让“不知道”有位置
工具设计也能减少“看起来对”。界面不必只展示最终答案，还可以把没有依据的句子标出来，把摘录和推断分开。对摘要、客服回复、内部知识检索等场景，允许模型说“不知道”，能减少强行补全。这里的目标不是零错误，而是让错误更早暴露。模型幻觉很难完全消除，但可以被更早识别。
也有人把问题归因于提示词。提示词能约束表达方式，却不能替模型补上不存在的事实。更现实的做法是缩小任务、给出可核查材料、设置人工复核点。对内部草稿，可以接受少量偏差；对对外发布内容，验收标准需要单独收紧。
边界要说清
术语用得太宽，会模糊责任。模型幻觉通常指模型生成与事实或给定材料不符、却以确定语气表达的内容；风格不合、理解偏差、数据过期，不应都塞进这个词。把边界说清，团队才能判断是改提示、改流程，还是改数据源。
使用模型时，不妨多问一句：这句话如果没有模型，我们会不会写？如果没有依据，就让它空着。流程里留出空位；不要用顺滑句子填满它。