散会后不到半小时,纪要已经躺在群里。格式整齐,动词用得比人准,连谁提了反对意见都标了出来。只是有两处把“下周三”写成了“下周一”。
这类错误很有意思。它不是笨,恰恰是太顺。生成式人工智能的底层动作是预测下一个词,它在“像不像一句人话”这件事上训练得极其充分,在“是不是真的发生过”这件事上没有对应的器官。所以它写出来的句子很少磕巴,很少出现明显的语法犹豫,读起来让人放松警惕。
人的警惕性恰恰建立在不顺上。一份手写的纪要,字迹潦草、句子断裂的地方,我们会本能地多看一眼;一份流畅的文档,我们会默认它经过了思考。这个默认在前几年还成立,现在不太成立了。
速度被压平之后,差异跑到哪里去了
过去衡量一份文档的工作量,很大程度看它花了多少时间。现在这段时间被压缩到接近零,剩下的部分并没有消失,只是换了位置——从“写”挪到了“核”。
核对是件不显眼的活。它不产出新内容,也没法在汇报里写成成绩,但它决定了这份文档能不能直接拿去用。一个团队如果只享受生成的速度,不安排核对的人,等于把风险往后推,推到某个会被具体的人看见的场合。
更麻烦的是,核对的人往往不在场。写纪要的人知道会上发生了什么,看纪要的人不知道。中间那层过滤如果由模型完成,遗漏就变成了静默的。
哪些事可以交出去
把散乱的笔记整理成条目,可以。把一段已经确定意思的话改写成三种语气,可以。给一个陌生概念列出几种常见的解释方向,也能用,但每一条都要回到原始材料去对。
反过来,需要有人担责的结论、需要现场感的判断、需要知道“这句话当时是什么语气说出来的”场合,交出去就不合适。不是模型做不到漂亮的表述,是它没有立场去承担表述的后果。
还有一类任务值得单独说:让它标出自己的不确定。有些工具支持要求模型给出推测性的说明,效果因场景而异,不能指望它诚实到底,但比完全不给要强。另一种用法是反过来,让它扮演挑错的人,去质疑一份已经写好的稿子。同一个模型,换一个提问方向,输出的东西差别不小。
几条可以马上用的习惯
- 凡是涉及时间、数量、人名、承诺的句子,逐条回原始记录对一遍,不看上下文,只看这几个字段。
- 把“整理”和“判断”分成两步,中间留一个由人过的关口。
- 习惯性地问一句:这段里哪些是你推出来的,哪些是材料里写着的。
生成式人工智能不太会疲惫,也不太会主动说“我不确定”。这两点加在一起,意味着用它的人必须替它保留那份谨慎。它像一个笔头极快、从不请假、但也从不主动提醒你的合作者——稿子交得漂亮,签字还得你来。