采风全网
达观天下

人机协作里,麻烦往往不在机器那一半

上周改一份由模型起草的周报。七处改动里,五处是把机器的口吻换回人的口吻,两处是把写得太满的话收回来。改完抬头看表,省下的时间没有想象中多,但也没有白费——那份草稿至少把「从零开始」变成了「从有到对」。

这件事让我一直想一个问题:人机协作被谈论时,焦点几乎总在机器那一半——模型能力、上下文长度、推理步骤。可真正消耗人的,往往是另一半:人要在什么位置伸手,伸多深,以及伸完手之后,责任算谁的。

交接面在哪,问题就出在哪

任何协作都有交接面。人和同事之间靠邮件、靠一句口头确认、靠一份写清楚了背景的文档。人和模型之间的交接面,往往是一段提示词加一次输出,薄得几乎不存在。薄不是问题,问题在于它是单向的:人给出去的信息,模型不一定会追问;模型返回的结果,人常常不知道它略过了什么。

介入的粒度是这里的第一道坎。每一步都确认,等于人自己在做,省不下力气;一次交付到底,返工的成本又会集中在最后,那时候改起来最贵。比较现实的位置在中间——让机器留下可以回退的中间产物。提纲、假设、被排除的选项,这些东西比终稿更值得花两分钟看一眼,因为终稿只告诉你结果,中间产物告诉你它为什么这么想。

信任不是开关,是刻度

「要不要信它」这个问法本身有问题。信任更像校准:在哪些事上可以放心略过,在哪些事上必须逐条核对,这条线只能靠具体经验一点点划出来。有人一开始全信,被坑一次之后全不信,来回摆动,其实两边都没有积累。

校准的办法很土:先在小事上验证。让它在低风险的场合跑几轮,留意它自信地出错的那些瞬间——语气越确定、细节越具体的地方,反而值得停下来看一眼。等某类内容连续几次不需要改,就可以把它划进「可以略过」的范围;一旦出现一次意外,再收回一格。这条线是动态的,不是一次设定就能长期有效。

另一头也要防:人容易懒得看。当输出足够流畅,核对的动作会在不知不觉中被跳过,而流畅和正确之间没有必然关系。

责任不能对半分

人机协作里有个不对称:后果只落在人这一边。模型不会因为一段错误的文字被追责,也不会在下一次记得教训。既然如此,流程的默认值就该是——人是否可以看懂,以及人是否可以否决。可解释性在这里不是一个学术议题,它只是让「否决」这件事在操作上成为可能:看不懂的东西,人没有能力说不。

所以我不太相信「各承担一半」这种说法。更准确的分工是:机器负责给出候选和理由,人负责选择和承担。前者可以并行、可以穷举,后者不行,必须收敛到一个决定上。

几条能落地的做法

  • 让机器先交草稿和理由,理由那一栏其实更该读。
  • 保留中间稿,别只要终稿;被排除的选项里常有信息。
  • 明确哪些环节允许直接过,哪些必须逐条核,写下来,别靠当时的心情。
  • 记录每次被改掉的地方,这是校准信任最直接的原料。
  • 时间预算按「改」来算,而不是按「生成」来算,否则预期永远对不上。

回到那份周报。人机协作真正改变的可能不是速度,而是人被迫更清楚地说出自己到底在判断什么——哪句话必须这样写,哪个结论还不到时候。这个副产品,大概比省下的那点时间更耐用。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:人机协作里,麻烦往往不在机器那一半
文章链接:https://tech.cfdanews.com/ai/2082.html