采风全网
达观天下

大语言模型答得越顺,核对的人越累

下午三点,同事把一份方案输入对话框,要求压缩成半页,并调整语气。十几秒后,一段条理清楚的回复返回。看上去可以直接贴进邮件。真正花时间的部分在后面:逐句对照原始材料,确认每个时间、每个数字、每句“业内普遍认为”到底是谁认为。

写的时间省下来了,核对的时间补上去。这大概是目前企业使用大语言模型时最普遍的体验落差。

流畅是训练的副产品,不是可靠的信号

大语言模型的工作方式,是在给定上下文后逐词预测下一个词。它被优化的目标,是让接下来的表达在语义和语体上更“合理”,而不是让每句话都能追溯到某个来源。因此,语气笃定和内容准确之间并没有必然联系。

让它整理一份会议记录,措辞会很贴近原话,但发言人、先后顺序、谁提了反对意见,容易错位或合并。麻烦在于这类错误不显眼:句子读起来太顺,读者会自动降低警惕。审稿时让人卡住的往往不是语法,而是那些看起来毫无破绽的陈述。

成本并没有消失,只是换了承担的人

过去这部分成本花在起草:翻资料、搭框架、写第一稿。现在起草变便宜了,核对变贵了。如果团队里没有人明确负责这一步,产出会显得很多,能用的比例却未必上升。

一些团队的做法是把“能指回原文”写成硬性要求:让模型只做改写、抽取、格式对齐、条款比对这类可验证的动作,凡是涉及结论、数字、承诺的地方一律人工确认。任务拆得越细,检查点就越多,返工反而更少。反过来,把一整块模糊需求交给它“帮我写个方案”,得到的会是一份需要通读三遍才敢用的东西。

检索增强能补一部分,但不是全部

把外部资料检索出来再交给模型作答,可以让回答附上来源片段,把“凭记忆说”变成“照着材料说”。这一步解决的是有没有材料,不解决材料有没有被正确理解。片段被截断、引文与结论错位、两段本来不相干的内容被拼到一起,仍然会发生。

所以引用本身也需要检查。比较稳妥的用法,是把大语言模型当作一个反应很快、但需要监督的初级助手:让它先给出结构和候选表达,人再来判断取舍。它的速度优势在这个位置上最明显,越往上走,越需要人接手。

有些活不该交出去

需要有人担责的判断、必须依据最新事实且短期内无法核实的表述、涉及具体承诺的措辞,这些地方交给模型生成再让人签字,等于把风险挪到最后一环。它可以参与起草,但落笔的人得知道自己在确认什么。

回到开头那个下午。与其问“这个模型能不能用”,不如先问一句更具体的话:这段输出由谁核对,用什么核对,核对不完的时候怎么办。答案清楚了,工具的位置也就清楚了。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:大语言模型答得越顺,核对的人越累
文章链接:https://tech.cfdanews.com/ai/2359.html