把一件琐事交出去,本来只需要几秒钟。你输入一句话:把下周的行程排好,订一张票,顺手把会议邀请发出去。界面开始滚动——正在读取日历、正在检索车次、正在填写表单。到第三分钟左右,它停住了,回你一句「需要你确认登录信息」。
这个停顿很有代表性。它既不算失败,也谈不上完成,更像一个人走到半路,发现前面那道门自己没有钥匙。
它看起来像在思考,其实在拆步骤
人们把这类系统叫作智能体,指的是它能围绕一个目标自行决定下一步:先规划,再调用工具,看到返回结果后调整,必要时回头重来。模型负责理解意图和做判断,工具负责把判断变成动作,中间的调度逻辑把两者串成一条链。
链条一长,麻烦就来了。单步正确不等于整体正确。第一步的理解偏了一点,第二步的选择就跟着偏,到第五步可能已经离原意很远,而中间每一步看上去都「合理」。这和人把事办砸的过程很像,区别在于它跑得更快,出错时也更安静。
误差沿着链条走
多步任务的可靠性不是相加,更像是相乘:每一步都过得去,连起来就未必过得去。这也是为什么演示视频里行云流水的操作,换到真实环境经常卡壳——真实环境里有验证码、有超时、有页面改版,还有你没写在提示里的默认习惯。
能做的调整其实很朴素:
- 把长任务切成短段,每段结束设一个明确的检查点;
- 让它动手前先复述目标,由人当场对一遍;
- 把不可逆的动作放到最后,并单独要求确认。
这些做法并不新鲜,本质上和带新人做事是同一套办法:先看流程,再放权限。
权限比聪明更难处理
当智能体能读日历、能发邮件、能提交表单,讨论的重点就从「它够不够聪明」转向「它被允许做什么」。可观测性在这里不是工程上的漂亮词,而是出事之后能回看:它读了什么、调用了什么、依据哪一步做的决定。没有这层记录,出了问题只能靠猜。
最小授权是个老原则,但落到具体场景里需要人下决心:订票要不要绑定支付,发邮件要不要允许群发,改日程要不要覆盖别人的安排。每一项都可以图省事,也可以先卡住。
停下来,也是一种能力
回到那个第三分钟。它选择停下来问一句,其实比闷头把票订错要好得多。判断力的一部分,恰恰是知道自己做不到,并把局面交还给人。
真正的交接也不该是一句「失败了」就结束,而应带上已经完成的部分、卡住的位置、以及几个可选方向。人接手时不必从零开始,这才是协作该有的样子。我们期待的或许不是一个永不求助的助手,而是一个知道何时把方向盘还回来的同伴。