把一套流程交给 AI Agent,最初的一步往往很轻:授权、接入、跑通。真正让人犹豫的是后面那句问话:它跑到哪一步该停?这个问题在演示里几乎不存在,在真实系统里躲不开。
它和过去的自动化差在哪
早先的自动化脚本也替人干活,但路径是写死的:输入什么、走哪条分支、输出什么,事先都能画出来。Agent 不太一样,它拿到的是目标,至于中间怎么拆、调用什么、要不要再试一次,由它在运行时决定。灵活度从这里来,风险也从这里来。你能预演它的起点,却很难预演它的每一步。
所以“能不能用”这个问法意义有限,更值得问的是“在什么约束下用”。
权限不该只按能不能分
落地时,权限常被简化成一张清单:能读什么、能写什么、能不能对外发消息。清单有用,但它只回答了“有没有”,没回答“多少”。同一个动作,做一次和做很多次,后果完全不同;读一条记录和读整个库存,性质也不一样。
更贴近实际的切法是给动作加上量级与时间窗:单次会话里的次数上限、单位时间的频率、可触及的数据范围、多久之后必须由人复核一次。这些限制听起来琐碎,却决定了出错时留下的是一条坏记录,还是一片需要回滚的痕迹。
失败得能被看见
Agent 的失误很少是某一处崩掉,更像一连串各自看起来合理的动作叠在一起,最后偏离了意图。这类问题不会抛异常,日志里也可能一片正常。因此比“它能不能做对”更该关心的是:做错之后,人多久能发现,能不能还原它当时看到了什么、依据什么做了判断。
可回放、可中断、可撤销,这三件事在工程上比模型选型更能决定一套系统敢不敢长期开着。中断尤其容易被忽略——一个无法在半途叫停的流程,本质上没有边界。
责任落在谁身上
Agent 不承担后果。它出错,损失由业务方承担;它越权,责任在批准授权的那一环。讨论里常有人把它比作“数字员工”,这个说法在沟通时好用,在追责时会模糊焦点。它更像一个被授权代行的流程组件,权限边界和人工审批点应当写进文档,而不是停留在默契里。
哪类环节适合先交出去
并非所有流程都值得交出去。一个朴素但好用的判断是看两件事:出错之后能否被发现,发现之后能否撤回。可逆、可观测的环节,容错空间大;不可逆的对外动作,哪怕表现再好,也该保留人工确认这一步。
这也解释了为什么不少团队先从内部检索、草稿生成、信息归集入手,而对外的承诺性动作迟迟不肯放手。不是保守,是算过账。
回到开头那个问题。给 AI Agent 加能力是加法,划边界是减法,而减法通常更难,因为它要求你先想清楚每一步的价值与代价。边界并不削减它的用处,只是把它的能力变成可被信任的东西。