采风全网
达观天下

当生成式人工智能写不出“不知道”

会议室里有人把一段文字投到屏幕上,措辞工整,层次清楚。讨论很快就进入了“这几句怎么改”,没有人问这些句子是从哪来的、依据什么写成的。这个细节很小,却常常决定了一次工具引入最后是停在心里,还是真的落进流程。

流畅是一种伪装,也是一种成本

生成式人工智能的输出有个很显眼的特征:它几乎不会停顿。人写东西卡住时会留白,会写“此处待查”,会给同事发消息问一句;模型不太会。它更倾向于给出一个形状完整的答案,哪怕其中某一段其实建立在模糊的推断上。

于是“完成度”成了一种很容易获得的错觉。麻烦的地方在于,这种错觉不发生在机器那一侧,而发生在阅读者这一侧。句子顺,人就会放松警惕,觉得改几个词就能用。核查被推迟到更晚,而更晚通常意味着更贵——要么是发布之后返工,要么是有人替你承担了那句没被核对的话。

它擅长的是“像”,不是“是”

从机制上说,这类系统学的是语言里常见的搭配、结构与行文习惯。它给出的是一种概率上合理的延续,而不是一次核实。这个区别讲出来谁都明白,可落到具体工作里就经常被忘掉,因为“合理”和“正确”在阅读体验上太像了。

所以更实际的做法,不是追问它“对不对”,而是先问一句:这个环节如果出错,代价由谁承担。写草稿、缩摘要、换措辞,错了改一下就好;涉及对外承诺、具体数字、责任归属的部分,仍然需要有人签字,而签字的人不能只是模型的转述者。

用得住的人,往往先削掉它的野心

观察那些把工具用顺了的团队,做法常常朴素得有点扫兴:

  • 把任务切小,一次只让它做一件能当场判断的事,而不是“帮我把方案写了”;
  • 喂给它可核对的材料,让它在你给的范围里改写,而不是从空白处自由发挥;
  • 要求它把不确定的地方单独列出来,哪怕这份清单不完整,也比没有强;
  • 保留一个明确的“不通过”出口,让人可以干脆地说这段不能用。

这几条看着像使用技巧,其实是一种分工:生成交给机器,判断留在人这边。有人担心边界划得太清会削弱工具的价值,实际情况往往相反——边界清楚之后,人才敢把它放到更靠前的位置,也才敢在时间紧的时候依赖它。

沉默的失败更值得留意

一眼能看出在胡说的输出,反而不危险,用户会立刻警觉。麻烦的是那种大半正确、局部含糊的文本:读的人得读完、比对、再判断,花的工夫未必比自己做少多少。这也是不少团队试用一段时间后热情回落的原因,不是模型变差了,而是省下来的时间又被核查吃了回去。

想让这件事持续,就得让核查本身变轻:来源可追,改动可见,责任可落。比如在流程里保留一句“这段由模型起草,数字部分已核”,比任何一次培训都管用。

回到那块屏幕。如果投出来的文字旁边能多一行小字,说明哪部分是生成的、哪部分经人确认,讨论大概会更早进入正题。生成式人工智能能不能被信任,很大程度不取决于它多会写,而取决于用它的人愿不愿意在流畅之外,留一道能停下来的缝。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:当生成式人工智能写不出“不知道”
文章链接:https://tech.cfdanews.com/ai/1674.html