采风全网
达观天下

先别急着自动化:人机协作里那道没人愿意画的边界

一个团队把表单的初审交给模型,界面做得很顺滑:几秒出结果,一键通过。直到某天,模型给出一份看上去完全合理的结论,操作的人扫了一眼就点了确认。事后复盘,没人能说清那一刻究竟是机器判断的,还是人判断的。问题不出在模型答错,而出在交接的地方什么都没留下。

真正需要设计的是那一两秒的交接

谈人机协作,讨论常常落在两端:模型够不够聪明,人会不会被替代。但日常使用中真正决定体验的,往往是中间那一小段——谁发起,谁确认,确认的时候屏幕上摆着什么。模型输出不是终点,它是下一个动作的输入;如果这个输入被包装成一句「已为您处理」,判断的余地也就一起被省掉了。

所以我会把交接点当成一个独立的设计对象来看:它需要显示依据,需要允许犹豫,也需要记录是谁按下的那一下。这些东西不产生亮点,但缺了就会在某个普通工作日突然变成麻烦。

上下文补不齐,就别假装补齐了

模型看到的是被喂进去的那部分内容。而真实现场里还有别的东西:上个月定下的口头约定,某个对象历年来的例外,同事在群里说过一句「这种先放一放」。这些散落在人脑子和聊天记录里,指望用一句更长的提示词补齐,多半补不齐。

比较务实的做法,是把不确定显式地留在流程里。让机器说出它依据了什么、哪些地方没把握,而不是交出一个光滑到看不出接缝的答案。光滑的答案最危险,因为它让人失去追问的理由。

让人先在场,而不是最后兜底

「人来兜底」是自动化项目里最常见的说法。可兜底意味着人在最后一刻介入,那时信息最少、时间最紧、责任最模糊。更合理的安排是把人放在前面:定规则、划例外、盯异常。重复的劳动交给机器,边界的判断留给人,人机协作才不至于退化成一句口号。

这套安排不新,落实起来却总要跟效率指标打架。我的看法是,交接处多花的那些时间不算损耗,它是让整个流程在出问题时能被追溯的成本。省掉它,省下的只是账面上看不见的部分。至于模型能力继续往上走,这条边界会不会移动——大概会,但移动的前提,是我们先知道自己现在站在哪里。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:先别急着自动化:人机协作里那道没人愿意画的边界
文章链接:https://tech.cfdanews.com/ai/857.html