采风全网
达观天下

把大语言模型当同事之前,先弄清它在补什么

前阵子帮朋友看一份产品说明,读下来很顺,几乎挑不出毛病。他说这是模型写的,自己只改了几处。我问改了哪儿,他说把“支持七天无理由退货”改成了“十五天”,因为原稿里那句是模型自己编的。

这种事现在不算稀奇。问题往往不在文笔,而在于它写得太像真的。要弄明白为什么会这样,得回到它的训练目标上:预测下一个词。

它优化的从来不是“正确”

大语言模型在训练时反复做一件事:给定前文,判断下一个词更可能是什么。判断对了,参数就往那个方向调一点。整个流程里没有“核对”这一步,也没有一个可以拨动的“事实”开关。

所以它写出的每一句,本质上是“在这个语境下,更像人话的接续”。语法通顺、逻辑连贯、语气合适,这些它做得很好。至于这句话在现实世界里是否成立,并不在它的优化目标里。

流畅和可靠是两件事

合同条款、版本号、日期、引用出处、人名,这类内容在语料里出现得零散、变化又多,模型很难记住,但它们的“形状”很容易被模仿。于是它能给出一串看着像版本号的数字,或者一个格式工整、却查不到的出处。

判断的办法不复杂:看这条信息能不能核对。能核对的,就去核对;不能核对的,才轮到你去判断它的表达是否合理。顺序反了,麻烦就来了。

有些活它确实干得好

  • 把一场混乱的会议记录整理成条目,人再补充遗漏
  • 把技术文档改写成非技术读者能看懂的版本
  • 对一批格式不一的文本做结构化提取,之后抽样检查
  • 提供一个自己没想到的切入角度,当作讨论的起点

这些任务的共同点是:结果好坏容易判断,错了能改,责任仍然在人这边。

边界在哪

需要精确事实、需要追溯来源、出错代价大的场合,把大语言模型放在拍板的位置上并不合适。它更适合做初稿和陪练。不少团队的问题其实不在工具,而在流程里没有设检查点——模型的输出直接进了对外文档。

另一种常见的误解,是把它当搜索用。搜索给你一条条可以点开的线索,模型给你一段完整的、不带出处的叙述。前者把判断留给你,后者把判断藏了起来。

用得顺手的人,通常在做什么

观察下来有几个习惯:把背景说足,谁看、用来干什么、多长;要求它标出自己不确定的地方;把任务拆小,一次只做一件事;最后一定自己过一遍。

说到底,大语言模型降低的是起草的成本,不是判断的成本。前者降得很快,后者一点没降。把它请进工作流之前,先想清楚一件事:这个环节上,最后谁签字。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:把大语言模型当同事之前,先弄清它在补什么
文章链接:https://tech.cfdanews.com/ai/2008.html