有一阵子,我试着把每月最烦的那件事交出去:整理散在邮箱里的发票,按项目归档,填进报销单。找一个能自己打开浏览器、点按钮、读页面的工具并不难,难的是它跑完之后我该怎么办。
它做得不坏。附件找到了,金额填进去了,格式也没错。真正让我停下来的不是它出错,而是它出错时我发现自己没法很快知道。有一次金额栏被填成含税价,看上去一切正常,直到财务退回。那一刻我意识到,交出去的不是一份表格,而是一段我原本可以省下的核对时间。
它和聊天框里的那个东西,差在哪
通常说的「智能体」,指的是能在目标下自己走多步的东西:看一眼当前状态,选一个动作,调用工具,拿到结果,再决定下一步。和一次问答相比,多出来的是这个循环。价值在循环里,麻烦也在循环里——单步可以检查,多步只能看结果。
于是问题换了位置。问题的关键已经变成:这件事错了以后,我能不能立刻看出来。至于它够不够聪明,反倒没那么要紧。
先分清哪些活能交出去
我后来大致按一件事能不能被验证来分:
- 有明确校验的活,比如金额对不对、单号能不能对上、文件有没有落在指定目录,交出去比较放心,因为错会自己暴露。
- 没有明确校验的活,比如这封邮件该怎么回、这段文字要不要改,它给出的东西看着都成立,你只能一条条读。这类活省下的时间,往往又还给了检查。
- 还有一类是错了代价不可逆的,比如对外发送、删除、付款。不管它表现多好,都该留一道人工确认。
这条线不是技术的线,是责任的线。人做错了,可以问为什么;智能体做错了,你只能翻它的执行记录。记录不全,就等于没法复盘,也没法在下一次调整。
我更在意的两件小事
一是权限。给它一个能读全部邮箱的账号,和给它一个只看某个文件夹的账号,是两件事。最小权限这句话说了很多年,在智能体这里变得具体:它每多接一个工具,你多一分失控的可能。
二是刹车。跑长任务的时候,我更希望它能停下来问一句,而不是默默把二十步走完。中途可打断、每步留痕,这两点比多跑几步重要得多。
至于那些「它会自己规划、自己反思」的说法,我的看法偏保守:规划能力确实在进步,但一个能自我检查的系统,检查的标准仍然是人事先给的。标准写得含糊,它就会自信地含糊下去。
现在能把什么交出去
我的做法是,只交那些流程我能一句话说清、验收我能一眼看出的活。写不清楚流程的事,先别急着上工具——模型本身未必不行,只是你还没想清楚。想清楚了,用脚本也行;想不清楚,用再强的智能体也只是把混乱跑得更快。
剩下那些需要判断、需要和人打交道的部分,我留给自己。与其说是情怀,不如说是怕出错时,我得在场。