一个能自己打开网页、填完表单、再把结果发出去的助手,听上去离省事很近。可真正把它放进日常流程,最先暴露的往往不是它不够聪明,而是它在第三步之后开始偏离,而你直到最后才发现。
这类工具被统称为 AI Agent。它的特别之处不在于回答得更漂亮,而在于被允许连续动作:拆解目标、调用工具、读取返回结果,再决定下一步。循环一旦成立,它就能接手“查资料并整理成表”这样的跨步骤任务。问题也在这里——错误有了传递的通道。一次误读页面,可能被后面几步当成事实继续使用。
从会回答到会动手,中间隔着可观测性
单步操作的失败很容易看见,多步任务的失败却常常藏在中间。页面上一个数字看错,表单里一个字段填反,如果没有人检查中间产物,最后交出来的结果可能看起来完整,实际已经偏了。
所以讨论 AI Agent 的能力时,我越来越在意它是否留下痕迹:每一步调用了什么、读到了什么、为什么这样选。没有这些,人只能对着最终结果猜。可观测性听起来像工程细节,实际决定它能不能被信任。
另一个常被忽略的是回滚。能重来,才敢放手。任务链越长,越需要在关键节点设检查点,让失败停在可收拾的位置,而不是一路滚到最后。
工具越多,权限越要收着给
Agent 的能力边界,很大程度上由它能碰什么决定。能读邮件和能发邮件,是两件事;能查订单和能改订单,也是两件事。把权限按任务拆细,只给当下需要的那一部分,比事后追责更实际。
我倾向于一个朴素原则:只读优先,写入需确认,敏感动作留人工。这不是不信任技术,而是承认多步执行里总有意外。权限收着给,反而能让更多任务被放心交出去。
它更像实习生,而不是外包团队
把 AI Agent 当外包团队,容易高估它的自主性;当实习生,反而合适。要交代清楚背景,要给出判断标准,要在交付前看一眼。它能把重复步骤接过去,但方向和收尾仍需要人。
这也解释了为什么有些场景用起来顺,有些场景总是别扭。任务边界清楚、结果可验证、失败可回退的地方,它更容易发挥作用;目标模糊、后果不可逆的地方,人还是得站在前面。
我的判断是,AI Agent 的价值不在“全自动”,而在把一段流程里最枯燥的几步接走,让人保留判断和收尾。它的成熟也不会是某一天突然到来,而是一点点体现在那些不再需要人盯着的环节里。真要用好它,先别问它能做多少,先问清楚:哪一步必须由人确认。