一个常见的试用场景是这样的:把一份乱糟糟的会议记录交给 AI Agent,让它抽出待办、分配到人、写进项目表。前两步往往顺利,最后一步开始出问题——它会把“下周再看看”写成一条有截止日期的任务,或者把一个模糊的意向派给不合适的人。问题在于它在替你判断,并非模型不会写字。
聊天机器人和 Agent 的差别,主要在于有没有“回合”,而不在回答长短。前者一问一答,后者要自己拆步骤、调工具、看结果、再决定下一步。一旦进入循环,错误也会循环:第一步理解偏了一点,第三步就沿着偏的方向跑得很远。
权限比能力更值得先讨论
很多人选型时先看它能做多少事,我倒愿意先问一句:它做错时,代价有多大,能不能撤回。读文件、查资料、生成草稿,错了改一下就行;发邮件、改数据库、提交表单,错了就发出去了。同样的模型能力,放在这两类动作上,风险完全不是一回事。
所以一个务实的做法是给它划出“可回滚区”。让它把要做的动作先写成计划,由人来点确认;或者让它在隔离环境里跑完再执行正式操作。听起来像给工具加了限制,实际效果是团队敢多让它做几件事。
验证环节不该被省掉
有一种流行说法是“人只做最后把关”。但最后把关往往最难:一页看起来通顺的摘要,你要发现问题,得把原始材料重新读一遍,成本比自己做还高。更现实的分工是把验证放在中间,切成几个能一眼看懂的小节点:先确认它抽出的字段对不对,再让它往下写。
- 列出它将要操作的对象:哪些文件、哪些系统
- 标出每个动作失败后的后果:可撤回还是不可撤回
- 指定一个能一眼判断对错的中间产物
这些做法并不新鲜,只是经常被跳过。跳过之后,试用阶段看着顺畅,真到生产环境就会开始补课。
它压缩的主要是等待
我现在的判断是,AI Agent 短期内真正改变的是“多久能做”,并非“谁来做”。找资料、对齐格式、把散落的信息拼成初稿,这些事本身并不难,难在要人守着。交给它,省下的常是等待和上下文切换,判断本身并没有省下。
反过来说,凡是需要担责的判断——对客户承诺什么、这条数据能不能对外——仍然留在人这边。把它当实习生,你会给它清楚的任务、明确的边界和检查点;把它当同事,你得先想清楚出了事谁签字。多数团队还停在第一种,这没什么不好,只是别在宣传里说成第二种。