采风全网
达观天下

人机协作最难的部分,不在机器那一边

先说一个很普通的场景。一份初稿由模型生成,人接过来读,第一段还行,第二段开始不对劲,但说不上哪里不对。于是改,改完再让模型顺一遍,它把改对的地方又改了回去。来回两三次,人开始怀疑这件事到底省了谁的时间。

这类摩擦我见过很多次。它跟模型够不够聪明关系不大,更多发生在交接的那一瞬间——人把任务递出去,又把它接回来,中间那一段是模糊的。

交接点才是真问题

把工作拆开看,任何一件事都有若干环节:理解意图、找材料、做判断、落成文字或代码、检查。模型擅长的是中间偏后的部分,快、不知疲倦、不嫌重复。人擅长的是头尾:说清楚要什么,以及在结果看起来没问题时嗅出问题。

麻烦在于,头尾恰恰最难标准化。你很难写一份说明,把“我要的那种感觉”讲清楚;也很难规定“什么时候该怀疑”。于是多数人机协作的实践,最后变成了人把开头草草交代一句,然后花更多时间在结尾收拾。省下的时间又还回去了。

我倾向于认为,判断一次协作是否成立,看的是交接成本,而不是生成速度。生成快是默认的,交接是否顺畅才是变量。

两种常见的失衡

用久了会看到两种相反的毛病。

  • 过度信任:连续几次结果都不错,人就懒得看细节了。等到某一次它自信地给出一个错的东西,格式还对,语气还稳,人才发现自己的检查能力已经生锈。
  • 过度怀疑:被坑过一两次之后,每个字都要核。这时候工具还在,效率没了,人做的其实是双份工作。

两种状态都不稳定,而且会互相切换。真正难的是找到中间那段:知道它的边界大概在哪,知道哪些环节必须自己过一遍,哪些可以放心跳过去。这种分寸感没法从说明文档里读到,只能靠一次次具体任务攒出来。

把“人机协作”写进流程,不等于它就发生了

不少团队的做法是加一道确认:机器出结果,人点通过。形式上人确实在环里,但如果那个人每天要点几百次,这道确认很快会退化成肌肉记忆。人机协作的质量,很大程度上取决于这个确认动作有没有实际分量——他有没有时间看,有没有能力看出来,看出来之后能不能改动。

所以流程设计上我更喜欢另一种思路:不是让人守在出口做闸门,而是让人出现在中途,在歧义出现的地方介入。比如让模型在不确定时明确标出来,而不是挑一个最像的答案填上。这看上去降低了自动化程度,实际上减少了返工。

有些事本来就不该交给协作

还有一个常被跳过的问题:是不是所有任务都适合拆开。我的看法是,那些判断标准说不清、错了代价又很大的事,交出去反而添乱。模型给的建议越具体,人越难摆脱它的框架,最后变成在两个都不满意的方案里挑一个。

反过来,范围清楚、错了能撤回、重复量大的活儿,协作的收益就很直接。这个界线不需要精确划定,但心里得有一条。

回到开头那份被改了三遍的稿子。后来我的做法变了:不再让它写完整初稿,而是先让它列出这篇东西可能有的几种写法,我挑一个方向,再让它铺开。它出的错少了很多,我也没觉得自己在做无用功。这种调整谈不上什么方法论,就是把交接点往前挪了一格——而人机协作里大部分改进,大概都是这种一格一格的挪动。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:人机协作最难的部分,不在机器那一边
文章链接:https://tech.cfdanews.com/ai/1814.html