设想一个很普通的傍晚:你在开会,手机弹出一条提醒——常点的那家店今天排队久。你顺手把“帮我订一份晚饭,七点前送到”交给一个AI Agent。它登录账号、比对配送时间、下单、付款,然后把结果告诉你。整个过程不到一分钟,看起来顺理成章。
但真正值得琢磨的地方,恰恰在“看起来”之后。它是怎么知道该选哪家店的?付款时用的是哪张卡?如果店家临时缺货,它自作主张换了菜,你接受吗?
它和聊天框里的助手,差在一次“动手”
过去我们熟悉的对话式助手,主要输出文字:给建议、写草稿、答问题。AI Agent的不同在于,它被允许调用工具——打开网页、填写表单、读取日历、发出请求。它把“说”变成“做”,也因此把风险从“说错话”变成了“做错事”。
一次任务的完成,通常要经过几步:理解目标,拆成小步骤,选择可用的工具,执行,检查结果,必要时重来。演示视频里最容易被忽略的,是最后两步。真实世界的接口会超时,页面会改版,验证码会跳出来,商家的库存会在你下单的瞬间变化。一个能跑通的流程,往往在第十次运行时卡住。
所以判断一个AI Agent是否可用,与其看它能完成多复杂的任务,不如看它在出错时怎么表现:是停下来告诉你,还是硬着头皮往下走。
权限给到哪一步,是个设计问题
订外卖这件事,拆开看有明确的分级。查菜单、比价格,几乎没有代价;加入购物车,可以撤销;提交订单,涉及钱;确认付款,涉及更多。合理的做法是让它在低成本环节自由行动,在高成本环节前停下来等一句确认。
这不是技术难题,更像产品设计上的取舍。把所有确认都保留,用户会觉得它没帮上忙;全部取消,一次误操作就可能带来实际损失。中间的尺度取决于场景:整理会议纪要和调整服务器配置,显然不该用同一套授权逻辑。
- 可逆的操作,可以放宽,让它自己试错;
- 不可逆的操作,哪怕只多花两秒确认,也值得;
- 涉及对外发送、支付、删除的动作,默认交回人来按键。
换句话说,Agent的能力边界不该只由模型决定,还要由“允许它碰什么”来决定。
“它做对了”这件事,有时很难验证
人做一件事,过程里有很多小判断,事后也能复盘。AI Agent执行完任务,交回来的往往只是一个结论:订好了、发完了、改完了。中间它跳过了什么、替换了什么,用户未必看得见。
于是透明度成了实际问题。好的实现会留下可读的记录:调用了哪个工具、传了什么参数、拿到什么返回、在哪一步停下。这些记录不只是给工程师调试用,普通用户也需要一个能快速扫一眼的凭据。否则你只能选择全信或全不信,而这两种都不是好的使用体验。
另一个容易被低估的点是纠错成本。人在操作时出错,通常能立刻发现并改回来;Agent出错,可能是在几步之后才暴露,此时回滚要花更多力气。这也是为什么很多团队在内部试用时,会先把它放在“只读”或“建议”模式,让人来执行最后一步。
它适合接手什么样的活
从目前的实践看,AI Agent更擅长那些步骤清晰、反馈及时、失败代价低的任务:整理资料、跨系统搬运信息、按规则生成初稿、做重复性的检查。这类活的特点是,做错了容易发现,重做一次也不贵。
反过来,需要大量隐含前提、涉及人际分寸、或者一步走错就难以挽回的事情,仍然适合人来主导。这不是对技术的贬低,而是对任务性质的判断。把Agent放在它擅长的地方,人才有余力处理真正需要判断的部分。
回到那顿晚饭
如果那个订餐的Agent在下单前问了一句“今天想清淡点还是照旧”,在缺货时告诉你“原菜品没了,换成了另一道,可以吗”,在付款后附上金额和预计送达时间,这次委托就算是成立的。它没有变得更聪明,只是把该停的地方停住了。
讨论AI Agent,容易滑向“它能做多少事”的竞赛。但对每天真正使用它的人来说,更实际的问题也许是:我敢把哪一段交给它,又在哪里必须自己接手。这条线画清楚了,技术才有落脚的地方。