凌晨两点,某个后台表格还在等人填。这种事通常写个脚本就能解决,可脚本只按预设流程执行:页面一改版、按钮换个位置,它就会卡在原地。于是有人把智能体推上来,让它看着屏幕,自己判断下一步点哪里。
它更像一个需要反复试错的执行者
拆开来看并不神秘。理解目标、拆成若干步、调用工具、看返回结果、再决定下一步,这个循环就是它的基本工作方式。难的是每一步都带着不确定性:页面可能加载慢,字段名可能相近,返回的文本可能缺一半。人靠经验绕过去,智能体靠重试绕过去,而重试本身会产生新的状态。
问题因此从“它能不能做”变成“它做错时留下什么”。演示时流畅,不等于出错时收得住。指令也常常含糊:一句“整理一下这些合同”,对人来说是压缩、归类、标重点,对它来说则是另一套猜法。
能不能撤销,是条分水岭
读一份文档出错,重跑一次就好;发一封邮件、改一条库存、提交一次订单,错了就收不回来。所以判断一个任务该不该交给智能体,先看它能不能撤销,而不是看它顺风时有多快。落地时至少要处理三件事:
- 权限:能只给读权限,就不给写权限;能限定在某个目录、某个账号、某段时间,就不要开成全局。
- 确认点:把不可逆的动作单独挑出来,留给人点一下,其余照常执行。
- 留痕:每次调用了什么工具、拿到什么返回,都要能回放。出问题时,日志比事后解释有用。
这三条都不新鲜,过去靠人的谨慎来完成,现在要把这份谨慎写成规则。规则写得越含糊,风险就越可能藏在流程里。
全自动未必是终点
演示里,智能体一气呵成完成任务,画面很漂亮。真实环境里更常见的情况是,它做到八成就停下来,剩下两成要人接手,因为那两成往往牵扯模糊的意图,或者需要有人担责任的判断。硬要补齐,成本可能高过省下的时间。
更实用的分工是:机械的、可验证的部分交出去,需要权衡的部分留给人。半自动听上去不够新潮,但它让人始终知道系统在做什么、卡在哪一步。工具的价值不在于替人做决定,而在于把人从重复操作里拿出来,让人有精力去看那些真正需要看的地方。
技术还会往前走,这条界线却不太会移动。愿意在设计上慢一点的团队,通常比急着喊“全自动”的团队走得稳。