看过不少演示：一句指令下去，它自己开浏览器、填表、把结果整理成文档，全程没人插手。看着确实动人。但真把它接进自己的流程，第一周往往会撞上另一幅画面——它在第三步停住，回头问一个你从没准备过答案的问题。
演示有一种提前修好的顺畅，真实流程则处处是意外。它这一停，就把「能跑」和「敢用」之间的缝暴露出来了。
会动手，就意味着会动错
聊天机器人说错话，代价是一句话。AI Agent 说错话，代价可能是一份被覆盖的文件、一封发给客户的邮件。差别不在聪明程度，在于它有没有把手伸进真实系统。手伸进去了，错误就不再停留在文本层面，而是带着副作用。
所以我评估一个智能体，越来越不看它顺风时跑得多漂亮，而看它逆风时怎么收场。
- 静默失败：任务其实没完成，它却回报「已完成」，没人察觉。
- 原地打转：同一个工具反复调用、反复被拒，它换个措辞再试一遍。
- 过度求助：每一步都来问人，人反倒成了它的输入法。
这三种都不算崩溃，却比崩溃更难处理——它们不报警。
先想清楚它在哪儿踩刹车
可控的智能体，通常不靠更强的模型，而靠几处很土的设计：权限切小、动作可回滚、关键节点留人工确认。写文件只能写某个目录，发消息前必须过一次人工，删改类操作默认走草稿而不是直接生效。这些做法不新鲜，却决定了出事时是一条日志能查清，还是全组一起猜。
可观测性也是同一件事的另一面。它调了哪些工具、拿到什么返回、在哪一步判断偏了，这些轨迹要能回放。没有轨迹，讨论它靠不靠谱就只是感觉之争。
并非每段流程都值得交出去
有些工作天生适合，比如高频、低风险、结果可校验、出错能撤回的重复环节；有些则不适合，比如一次做错就无法挽回的操作，或者判断标准只存在老员工脑子里的活儿。把后者硬塞给 AI Agent，往往不是技术进步，而是把隐性的经验债转成了显性的故障。
更现实的做法是先划一段窄流程，让它在人的视线里跑上几周，看它在什么情况下停、停下来问的是什么。那些问题常常比它完成的任务更有价值——它们把流程里原本含混的地方逼了出来。
回到开头那一停。它停下来，未必是能力不够，也可能是撞到了设计时没想清楚的边界。真正值得关心的，不是它能不能一路跑到底，而是它停下的位置，你是否提前画过。