见过几次这样的场面:屏幕上任务列表一条条变绿,旁边的操作者却没松开鼠标,照样点开结果,逐条比对。系统说“已完成”,人还要再看一眼。这个多余的动作,恰好点出 AI Agent 眼下最真实的处境——它能做完,但还没到让人放心不看的地步。
“完成”两个字,谁说了算
Agent 汇报完成,依据的是它自己那套判断。任务被拆成若干步,每一步都有可执行的终点,跑到终点就算结束。人的标准往往不写在这些步骤里:表格的列序要不要和上一版对齐,数字保留几位,称呼用哪一种,这些约定俗成的东西很少被写进指令,却是“做对了”的一部分。
于是出现一种错位。机器交付的是形式上完整的结果,人需要的是形式上完整、细节上也过得去的结果。两者之间的缝隙,就是那一次点开检查。
比失败更麻烦的,是看起来成功的失败
彻底跑不通反而好办,报错会自己跳出来。麻烦的是半对半错:步骤都走完了,其中某一环理解偏了,产出有模有样,错误藏在里面。更微妙的是,有些设计会让它在中途绕开障碍,用一种你没预期的方式抵达终点。结果交上来了,过程却换了样。
这类问题不会因为模型变强就自动消失。能走的路越多,偏离的样式越难预先枚举。
权限该划在哪一步
给 AI Agent 划权限,常见的做法是看它能干多少事。但更实用的尺子或许是“出错能不能撤回”。查资料、读文件、生成草稿,错了看得见,改起来也快;替人对外发消息、改动线上状态、牵动多方协作,一旦发出去就收不回来。读和写之间那条线,比“聪明程度”更能决定该放多少手。
还有一层容易被忽略:它绕路的时候,是否还留在你划的圈里。权限不是一次授予就完事,而要随任务阶段变化,前面宽一点,越接近对外动作越收窄。
留下可以倒查的痕迹
对人来说,检查一个结果,往往需要知道它怎么来的。中间步骤、调用了什么、改动了哪几处,这些痕迹比事后解释更有用。可回滚也比可解释更实际——真出了偏差,能退回上一个状态,比听一段说明更省心。
痕迹不必给人看全部,但要留存得住。等到有人问“这里为什么变了”,能翻出来就够。
什么活可以先交出去
判断标准不复杂:结果好不好核验,错了代价大不大。两条一交叉,能交的范围就清楚了。整理素材、生成初稿、批量改名这类,错了看得见、改起来快,适合先放手;牵扯对外承诺、状态变更、多方交接的,还是留一道人工关口。
这道关口不是不信任技术,而是把责任放在能负责的地方。机器可以承担执行,判断和签字仍然得有人。
回到开头那个画面。人还盯着屏幕,未必是保守,可能只是还没找到更省事的核验方式。等检查这一步被压缩到几乎不花时间,AI Agent 才算真正进了日常工作。在那之前,“已完成”这三个字,最好还是当成一句待确认的话。