第一次看智能体跑任务,很容易被那种连续动作迷惑:它读文件、调接口、改配置,再回头检查,屏幕上滚动的一行行记录像一条不会断的流水。旁边的人常常会说同一句话——它好像真会干活了。
但演示停在这里,生产才刚开始。
它擅长开始,麻烦在结束
一个智能体的基本循环并不神秘:给定目标,拆成步骤,调用工具,观察返回,再决定下一步。模型负责判断,工具负责执行,中间那层把结果接回去。让人头疼的地方通常不在这三步,而在什么时候停。
停早了,任务半途而废;停晚了,一次多余的重试可能把已经修好的东西又改坏。人做事有模糊的收尾感,知道差不多可以交了,这类系统没有。它需要一个明确的终止条件:验收标准是什么、最多试几次、失败之后是回滚还是上报。这些写不清楚,能力越强,偏出去就越远。
权限比聪明更值得先讨论
给它一把钥匙,和给一个人一把钥匙,风险结构是相似的:它能做的事,也正好是它能搞坏的事。常见的做法有两种,把它关在沙箱里只读不写,或者写操作必须经人确认。取舍本身不新鲜,关键是提前想清楚哪些动作可逆、哪些不可逆。可逆的放开,不可逆的卡住,先定这条,再谈提示词怎么写。
另一件容易被忽略的事是可观察性。它跑了十几步,中间调了什么、为什么这么调,如果记录里只剩一句已完成,出了问题就无从复盘。让每一步都留下痕迹,是它能被追责的前提,谈不上工程洁癖。
它不是更聪明的软件,而是另一种协作方式
把它当成会自动点按钮的程序,期望往往落空;把它当成一个需要交代边界、需要交班的新同事,反而更接近实际。交代任务时把验收标准说清楚,把长任务切成几段,都比一口气跑完更稳当。
这也是为什么,谈论智能体时,话题很快会从模型能力滑向流程设计。能力决定它能走多远,流程决定它会不会在错误的路上走得太远。
我倾向于一个偏保守的判断:短期内能稳定交付的智能体,多半是被限制得很死的那种——任务窄、工具少、人还在环上。听起来不体面,但它至少能被信任。至于什么都能干的,目前更多还停留在演示里。