采风全网
达观天下

大语言模型能把会议纪要写顺,却说不清为什么这样排

上周我把一段四十分钟的会议录音转写丢进对话框,让它整理成纪要。半分钟后,屏幕上出现分点清晰的段落:谁提了什么问题、哪件事被搁置,交代得比我自己记的还周全。我顺手追问了一句:你为什么把“预算复核”放在第一条?回答开始绕圈。先说“因为它在讨论中出现较早”,我指出并非如此,它又改口说“因为它涉及后续多个环节”。

流畅和正确,是两条不同的线

这不是偶然的失手。大语言模型的工作方式是按上下文预测接下来该出现什么词。它读过大量文本,知道一份纪要通常长什么样、一段解释通常怎么措辞。问题在于,“解释自己”这件事,同样是作为一段文本被生成出来的。它生成解释的能力,和它生成纪要的能力来自同一套机制,所以解释的流畅程度并不能反过来证明解释的真实性。

我把这理解成两条线:一条是文本是否通顺、是否符合体裁惯例;另一条是内容是否对应事实。前者它做得相当稳,后者需要外部的东西来兜底,比如原文、数据源,或者一个能跑起来的检验。

追问三次,通常会露出边界

实践中我形成一个粗糙但管用的习惯:对任何重要结论,追问两到三次“依据是什么”。如果每次回答都能落到我给出的原文中的具体位置,那多半靠得住;如果它开始用“通常情况下”“一般来说”来填补,说明这里没有依据,只有语言惯性。

  • 让它引用你提供的材料,而不是凭印象作答;
  • 把结论拆成可核对的小条目,逐条回到原文;
  • 对无法核对的推断,明确标注为推断。

这三条并不新鲜,但真正执行的人不多。多数时候,我们被第一版的流畅度说服了,后面的核对就省了。

边界不是缺陷,是分工的线索

有人把这称作“幻觉”,我更喜欢把它看成一条分工线:凡是结果能被外部检验的工作,交给它效率很高;凡是检验成本高于自己动手的工作,交出去意义不大。整理格式、改写语气、把散乱笔记归并成段落,这些都能复核;让它替你判断一件没有留下痕迹的事,就超出了它能负责的范围。

我也不赞成把它说得一无是处。恰恰因为它对语言惯例足够敏感,在“把话说清楚”这件事上,它的稳定性超过多数人疲惫时的表现。关键在于我们把它摆在什么位置:一个对文本分布很敏感的工具,而不是一个知道自己为什么这么做的同事。

回到那份纪要。我最后还是用了它的版本,只是把每一条都对着录音过了一遍,删掉两处它自行补充的内容。前后花了十几分钟,比自己从零写快,但也没快到可以跳过核对。大语言模型改变的或许不是我们能不能做完一件事,而是做完之后,我们愿意花多少时间去确认它真的做对了。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:大语言模型能把会议纪要写顺,却说不清为什么这样排
文章链接:https://tech.cfdanews.com/ai/1836.html