采风全网
达观天下

当大语言模型写不出“不确定”

把一份含模糊结论的会议记录交给大语言模型,让它整理成待办事项,常会得到一个意外整齐的结果:语气确定,责任清晰,时间点也像模像样。回头核对原记录,才发现有些内容是它顺手补上的。这个瞬间比任何演示都更能说明问题:模型的语言能力很强,但它对“自己不知道什么”的表达,并不总是同样可靠。

大语言模型的训练目标,决定了它擅长根据上下文预测接下来更可能出现的词。这样的机制让它能写邮件、改标题、归纳长文,也让它倾向于给出完整答案。空白在语言里不常见,含糊、缺失、前后矛盾却经常出现。人写材料时会留下“待确认”,模型未必愿意停在那里;它更容易把空白填平,让段落读起来顺。顺,不等于准。

流畅是一种能力,也是一种遮蔽

读一段由模型生成的说明,难点往往不在语法,而在判断哪些句子有依据。措辞越平稳,读者越容易默认它已经核对过。其实模型并不知道事实边界,它只是在组织语言。于是,使用中的关键动作变成了拆分:哪些内容来自原文,哪些是概括,哪些是推测。如果不做这个拆分,后面的人工复核就会变成走过场。

这并不是说所有输出都不可信,也不是要求每句话都加上免责声明。更实际的做法,是把任务分成不同层次。原文摘录、格式转换、语气调整,边界相对清楚;开放问答、原因分析、方案比较,则需要更多上下文和验证。对使用大语言模型的人来说,先问一句“这段内容如果错了,代价落在哪里”,会给后续判断增加一个入口。

让不确定留下来

一个可行的习惯,是在提示里明确要求标出信息缺口,而不是只要求“完整”。例如,让它区分原文信息、合理推断和需要确认的部分;让它列出无法从材料中判断的条目;让它保留模糊表述,不要替人下结论。这样得到的文本可能不那么顺滑,却更接近可用的工作底稿。

  • 先给材料,再提问题,减少模型靠常识补全的空间。
  • 要求标注依据位置,哪怕只是段落编号,也方便回查。
  • 把“不知道”视为有效输出,不急着让它继续写。

这些做法不复杂,难的是耐心。大语言模型已经足够像一位反应很快的协作者,正因如此,人容易把核对环节往后放。可语言越流畅,错误越不刺眼。把不确定留下来,不是给模型挑毛病,而是给使用过程留一道可见的接缝。接缝在,判断才有地方落脚。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:当大语言模型写不出“不确定”
文章链接:https://tech.cfdanews.com/ai/2014.html