采风全网
达观天下

人工智能写得更快,但它并不知道自己在写什么

打开文档,光标在空白处闪。很多人的第一反应已经变成把要求敲进对话框,等一段成型的文字落下来。速度快得让人松一口气——然后问题才开始。

它做的是接龙,不是理解

大模型的工作方式,说穿了是根据前文猜下一个词。猜得准,是因为它读过海量文本,见过无数句子的走向。它没有“知道”这件事的体验,也没有一个可以核对的内部账本。所以它能把一段话说得很顺,却不一定说得对。

这不是修辞上的挑剔,而是它工作方式的一部分。理解这一点,很多奇怪的现象就解释得通:为什么它会把不存在的出处写得像真的一样,为什么同一个问题问两遍,答案会飘。

顺滑的文字最容易骗过审稿人

人读文字时,会不自觉地拿“通顺”当作“可信”的替身。一段逻辑连贯、术语到位的话,读起来就默认它经过了思考。人工智能恰好极擅长生产这种表面质感。于是审稿的门槛其实被抬高了——不是要求变高,是要求的方向变了:从改错别字、调语序,变成核对事实、追问依据。

我自己的习惯是,凡是从模型那里拿来的具体说法,只要涉及数字、时间、出处,一律回到原始材料。慢一点,但省掉后面返工。

把它放在哪一环,比用它做什么更重要

有些环节它确实好用:把一段混乱的会议记录压成条目,把长文缩成摘要,把一种语气换成另一种语气,列出几个自己没想到的角度。这些工作的共同点是,结果对不对,人一眼能看出来,或者稍查一下就能确认。

另一些环节要小心:需要判断真伪的、需要承担后果的、需要理解具体情境和人心的。这些地方它能给初稿,但不该给结论。

  • 生成候选,而不是终稿
  • 处理结构,而不是事实
  • 让它提问,而不是让它拍板

第三条常被忽略。让它先反问几句“这段给谁看”“想解决什么问题”,往往比直接要一篇成稿更有用。

判断这件事,暂时还交不出去

工具变强的时候,人的价值会往上游移动。以前花在措辞上的时间,现在可以花在判断上:这件事值不值得写,这个结论站不站得住,读者真正卡在哪。这些问题的答案不在语料里,只在你对具体场景的了解里。

所以我不太担心被取代这件事,倒更担心另一种情况:因为太顺手,大家不再追问一段话背后的依据。人工智能可以帮你把话说圆,但圆不圆和对不对,是两回事。

光标还在闪。这一次,先想清楚要说什么,再打开对话框。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:人工智能写得更快,但它并不知道自己在写什么
文章链接:https://tech.cfdanews.com/ai/646.html