采风全网
达观天下

人工智能写的会议纪要,为什么总在细节上走偏

前几天帮朋友的公司看一份内部流程文档。文档写得很顺,术语工整,从目标到执行步骤一气呵成。朋友说,这是让人工智能起草的,他只改了抬头。我问了一句:里面提到的那个审批节点,你们真的走吗?他愣了几秒,说好像不是这么走的。

这类场面正在变多。模型的表达越来越像“懂行的人”,格式、语气、逻辑连接词都挑不出毛病,问题恰恰藏在这些挑不出毛病里。

流畅是一种伪装

语言模型的训练目标是预测下一个词,不是核对事实。它擅长的是“像”——像一份周报,像一份调研,像一段合规声明。文本越流畅,读者越容易滑过去,把“读起来对”当成“确实对”。人在阅读时会本能地依据表达质量判断可信度,这个习惯在纸面时代大致管用,因为写得清楚的人通常也想清楚了;放到生成文本上,这条线索就断了。

所以真正的成本不在生成,在核对。生成一份三千字的材料可能只要几十秒,核对它需要的时间和写它差不多,甚至更多——因为读者失去了“作者当时在想什么”这条线索,只能对着结论反向推演。

谁来做那个复核的人

很多团队引入工具时的默认假设是:人可以从重复劳动里解放出来,去做更有价值的事。实际发生的情况往往是,人被挪到了质检位置上,工作量未必减少,只是性质变了。写东西的疲惫是显性的,核对东西的疲惫是隐性的——它要求持续保持怀疑,而怀疑比顺从更耗神。

  • 没有明确责任人时,输出会被直接向下游传递;
  • 责任链条模糊时,出错后很难定位到具体环节;
  • 复核者如果本身不熟悉业务,就只能核对格式,核对不了事实。

这不是工具的问题,是流程设计没跟上。把写稿时间省下来,却没有把时间补给审核环节,等于把风险往后推了一格。

哪些地方可以放心交出去

我的判断是分层的。语言层面的工作——改写、压缩、换语气、把一段口语整理成条目——容错率高,错了也容易看出来,适合交出去。事实层面的工作——谁在什么时候同意了什么、某个数字从哪来、某项要求是否仍然有效——不适合脱离人。判断层面的工作,比如这件事该不该做,交出去等于放弃思考。

一个实用的做法是给输出加“出处要求”:让它在给出结论时同时说明依据来自哪段材料。这不保证正确,但把“无法核对”变成了“可以追问”。无法追问的答案,无论多流畅,都只是一个待验证的假设。

人工智能在这个位置上更像一个反应很快、态度很好、但从不承认自己不确定的实习生。用它没问题,前提是你还愿意当那个签字的人。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:人工智能写的会议纪要,为什么总在细节上走偏
文章链接:https://tech.cfdanews.com/ai/2211.html