卡住的那一刻,比跑通更值得看
一个常见流程是:负责执行的 AI Agent 读到任务,拆成若干步骤,查状态、填表单、生成回复。演示时一路顺畅;换到真实环境,凭据过期、字段缺失、审批人不在,任何一个小问题都可能让后续动作变形。这时最能看出系统设计:它是继续猜、继续调,还是停下来,把“卡在哪、缺什么、需要谁确认”说清楚。前者看起来自主,实际把风险推到下游;后者不够炫,却让流程可控。
自主不等于把判断全部吞掉
AI Agent 常被描述成能自己规划、调用工具、检查结果。技术上是“计划—执行—观察—修正”的循环,但循环里有一个容易被忽略的动作:暂停。暂停不是退出,而是把隐含假设摊开。当字段为空时,系统是补一个默认值,还是回头问提交人?当调用超时后,是无限重试,还是标记为待处理?这些选择决定了它是在解决问题,还是在制造更难排查的问题。
我的判断是,评价一个 AI Agent 是否接近可用,不看它一次能跑多少步,而看它出错时是否留下可读的痕迹:调用了什么、为什么调用、哪一步没有通过校验、下一次该谁接手。可读性决定信任,速度只是表面指标。
把“交接”写进流程
交接不是失败提示,而是流程的一部分。设计时可以让系统输出结构化状态:
- 已完成,附上结果和依据;
- 待确认,说明需要确认的字段;
- 缺少输入,指出缺哪一项;
- 权限不足,给出申请路径。
这样,人看到的不是一段含糊的道歉,而是可执行的下一步。对使用者来说,能判断“现在该我做什么”,才算进入可用状态。这套状态设计看似朴素,却要求系统在每一步都能解释自己的处境:它依据了什么、受限于什么、把决定权交回给谁。
边界没写清,能力就会变成负担
很多人期待 AI Agent 像人一样处理长流程,但真实组织里的长流程往往由多个角色共同承担。权限、审计、数据留存、异常升级,这些词不新,却决定它能不能被放心使用。一个系统如果只能展示顺利路径,遇到例外就沉默,那它仍停留在演示层。演示可以只展示顺利路径,真实流程不会。一个愿意停下来求助的系统,才让人敢把下一步交给它。