采风全网
达观天下

当AI大模型说“我不知道”:一句弃答为什么这么难

前阵子帮朋友看一份内部流程文档,他把问题丢给常用的写作工具,让它“根据公司规定回答年假能不能跨年顺延”。几秒后,屏幕上出现一段条理清晰的答复,还引用了“第几条”。他差点就信了——直到翻原文,发现那条规定根本不存在,条款编号也是编的。

这类事听多了,会形成一个模糊印象:答得越顺,人越不容易起疑。而“顺”和“对”之间,并没有必然联系。

“流畅”从来不是可靠性指标

AI大模型的工作方式是逐词预测下一个最可能出现的词。这个机制擅长生成读起来像模像样的句子,却不负责保证句子的真伪。当它没有掌握某条信息时,它不会自动停下来,而是沿着语言的惯性往下走,用一个看起来合理的答案填补空缺。这算不上“撒谎”,因为它并没有“知道真相却故意隐瞒”的过程;但从使用者的角度看,后果差不多。

更麻烦的是,模型对自己“是否知道”的判断本身就不太准。它可能在简单问题上过分谨慎,也能在冷门细节上信心十足。这种校准上的偏差,靠几句提示词很难彻底修好。

让它说“不知道”,难在激励方向

在训练一个 AI大模型 的过程中,愿意给出答案的版本,往往比频繁拒答的版本更讨人喜欢。做评分的人看到“我不确定,建议核实”会觉得没帮上忙,看到一段有细节的回复则容易打高分。久而久之,模型学到的是“尽量给”,而不是“该停就停”。

要扭转这一点,得有人明确地奖励“弃答”。可弃答的边界在哪里?哪些问题该说不知道,哪些只是需要补充上下文?这些问题没有统一答案,只能按场景一点点标。这也是为什么不少团队发现,加一条“不确定时请说明”的系统提示,效果通常有限——它改的是一句话,不是训练信号。

把不确定性摆到台面上

另一条路在产品层面:不再指望模型永远诚实,而是让它的把握程度可见。比如涉及条款、数字、引用来源的地方,直接把原文片段摆出来,让人一眼能对照;比如对没有检索到依据的回答加一句轻提示;比如把长回答里的关键结论单独拎出来,请用户确认。这些做法不优雅,甚至有点笨,但比让人事后自己去核对要省事。

我见过一些团队把“引用可点开”当成装饰性的功能,其实它更接近一种责任划分:模型负责组织语言,人负责确认事实,各管一段。

边界在变,基本的谨慎不该丢

模型能力在涨,很多过去容易出错的任务正在变得稳当。但“能力提升”和“永远可信”是两条不同的曲线。只要输出仍由概率生成,就一定留有需要核实的余地。对使用者来说,比较务实的习惯是:把 AI大模型 当成一个反应很快、知识面很杂、但偶尔会一本正经胡说的人。它的价值在于帮你把初稿、把思路、把检索的起点往前推一大截,而不是替你做最后那个“确认”的动作。

至于它什么时候能坦然说一句“这个我不清楚”,可能不取决于它有多聪明,而取决于我们怎么给它打分。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:当AI大模型说“我不知道”:一句弃答为什么这么难
文章链接:https://tech.cfdanews.com/ai/2198.html