采风全网
达观天下

人机协作最难的地方,不在模型,在交接的那几秒

我见过一种很常见的停顿:屏幕上是模型写好的三段文字,光标停在第二段末尾,人盯着它,手放在键盘上却没有敲下去。这里没有技术故障,也没有明显错误,只是判断还没完成——这段能不能用,责任归谁。

真正的现场在交接处

讨论人机协作时,注意力习惯性地落在模型能力上,好像能力够了,配合自然成立。可实际工作里卡住的往往是交接:谁在什么时刻接手,接手时拿到多少上下文,出了问题往回追能追到哪一步。这些不属于模型参数,属于流程和界面,也最难在演示里被看见。

模型交出来的如果是完成品,人只需点头或摇头;如果是半成品,人就得重新进入问题中段,先弄清它跳过了哪些前提,再决定补哪一块。后者更累,却更常见。

隐性知识不会自己浮上来

带过新人的人都有类似经验:一句“这个客户别这么回”,理由说不清,多半是几年里攒下的分寸感。这类知识难以写成规则,也就难以进入训练数据。于是模型给出的方案在字面上挑不出毛病,放进具体场景就显得生硬。

让人机协作显得笨拙的,常常是这种落差:系统按通用逻辑作答,人按具体情境修正。修正本身有价值,但如果每次都要从头解释情境,人很快会放弃,转而只做低风险的核对,协作就退化为盖章。

把判断留在能判断的地方

有些环节适合交出去:格式转换、初稿铺开、把散落的记录归拢成条目。这类任务出错容易被发现,改起来也便宜。有些环节不适合:需要有人署名负责的地方,边界模糊、必须由人承担后果的地方。把这些一并交出去,看起来是效率提升,实际是把风险推迟到更晚才暴露。

界面的作用在这里往往大于模型。如果能让人一眼看出模型依据了哪些材料、略过了哪些,修改变得便宜,人就愿意认真介入;如果只给一个结论,人除了全盘接受或整体推翻,没有第三条路,协作就只剩两个极端。

另一种退化

也有出问题的时候,责任不在机器而在人:过度信任,或者长期不用而失去手感。前者让人跳过核对,后者让人丧失判断力。两种退化都不显眼,等到真正需要独立判断的那天才会发现。

我的看法是,人机协作成熟与否,不看模型多能干,而看人在系统里还剩下多少真正的决定权,以及这些决定有没有被认真对待。停顿的那几秒,是这套关系里最贵的部分,也是最容易被当作低效优化掉的部分。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:人机协作最难的地方,不在模型,在交接的那几秒
文章链接:https://tech.cfdanews.com/ai/1420.html