早上打开电脑,收件箱里躺着一封由AI Agent起草、附好资料链接的客户回复。它没有直接发送,而是在等待确认。这个细节值得注意:企业愿意让它做事,却未必愿意让它独立收尾。
过去谈人工智能,多是把问题交给模型,等一段文字或一张图。AI Agent往前挪了一步:它能拆任务、调用工具、读取文件、在多个系统之间传递状态。能力边界随之改变,风险也跟着换了位置。原先担心答得不准,现在要担心动作做错、权限越界、过程说不清。
从“会回答”到“会动手”,中间隔着权限
一个AI Agent被允许访问哪些目录、能否删除文件、能不能修改生产环境配置,这些决定贴近日常。许多演示把工具调用当作亮点,真实工作流里,工具调用恰恰是责任开始的地方。读取和写入要分开,草稿和发送要分开,建议和执行也要分开。不是每一步都要人点确认,但关键动作需要留下可回看的痕迹。
我倾向于把权限设计成可收窄的通道:先给只读,再给建议,最后才给有限写入。每扩一格,都要能回答“出错时谁来看、看什么、怎么停”。这套思路不新鲜,难的是把它放进产品交互里,而不是写在方案里。
可追溯这道笨功夫
AI Agent执行任务时,往往经过多轮判断和工具返回。若只留下最终结果,排查会变成猜谜。有用的记录至少包括:它接到了什么目标、调用了什么工具、拿到什么输入、在哪一步改变主意、哪些内容由人确认。记录不必事无巨细,但要能还原关键分叉。
这也解释了为什么一些团队先把它放在低风险环节:整理会议纪要、汇总公开资料、生成待审草稿。不是这些任务简单,而是错了能收回来。能收回来,才有继续试的空间。
边界不在能力清单里
讨论AI Agent时,容易陷入功能罗列:能连几个系统、支持多少工具、记多久上下文。这些指标有用,却回答不了“该不该让它做”。实际的问题是:任务失败时,影响是否可逆;过程是否可解释;权限是否能随任务变化;人能否在关键节点接管。四个问题没有标准答案,但能帮团队划出试用范围。
另一个常被忽略的点是协作习惯。智能体介入后,责任并没有消失,只是从“谁操作”转向“谁设定规则、谁审核结果”。如果组织里没人愿意承担这一步,自动化就会停在演示阶段。
先让它学会停
我更关心AI Agent什么时候停下来。遇到权限不足、信息冲突、目标含糊时,它能否主动退回并说明原因,而不是硬着头皮往下做。会停,意味着系统承认边界;能说明为什么停,人才知道下一步补什么。
企业引入这类系统,未必要从大流程开始。找一个步骤清楚、结果可检查、出错可回退的环节,把权限、记录和接管方式一起设计进去。跑一段时间,再决定是否扩围。这个节奏不热闹,却接近真实组织的学习方式。