早上让它订一张去外地的高铁票，顺带把下午那个会挪到明天。半小时后它回话：票订好了，会也改了。我打开日历，会议被挪到了另一个时区——它认真执行了每一条指令，只是对「明天下午三点」的理解和我差了八小时。
这种小事故，比任何演示视频都更能说明问题。
它和聊天框的区别，在于「接着做」
给大模型套一层循环，接上几个工具，再配上一点记忆，就成了通常说的智能体。技术上并不神秘：观察当前状态，决定下一步，调用一个工具，看返回结果，再决定下一步，直到它认为任务完成或者被叫停。
关键差别不在回答质量，而在连续性。聊天框里问一句答一句，错了重问；它是接过一整件事，中间没人盯着。连续性带来两个后果：一是能把跨系统、跨步骤的琐事串起来；二是错误也会串联。单步九成把握，连着走十步，整体结果就没那么乐观了。
所以真正难的地方，往往不是让它「能做」，而是让它在该停的时候停。任务边界模糊、外部接口返回异常、连续两次重试仍然失败，这些都要有明确的退出条件；否则它会用一种很勤奋的方式越走越偏。
权限给多大，决定了事故能有多大
讨论能力时，人们容易盯着它会不会做；实际落地时，更该盯的是它被允许做多大范围的事。能读不能删，能起草不能直接发出，能改自己负责的文件不能碰共享目录——这些约束不是不信任，而是把风险控制在一个可收拾的范围内。
可逆性是划分权限时最实用的一把尺子。只读查询、生成草稿、在隔离环境里试跑，这类动作错了重来即可，可以放手；删除、覆盖、对外发送、改动别人正在用的东西，错了要解释和补救，就值得加一道人工确认。常见的失误是把效率当成唯一指标，先全开权限跑起来，出了问题再回头补，而补的时候往往已经没人说得清它动过什么。
与之配套的是可回放。日志不该只记「任务成功」，而要记清调用了哪个工具、参数是什么、返回了什么、为什么走到这一步。这既是排障需要，也是人愿意继续把事交出去的前提。
被忽略的两笔开销：收尾和注意力
我判断一件事值不值得交出去，看的是收尾成本——它做完之后，人还要花多少力气检查、修正、补漏。写一份初稿、整理一批格式混乱的表格、把散在几处的信息汇总成摘要，这类收尾成本低，改两句就能用。反过来，需要承担责任、需要准确拿捏语气、需要临场判断的活，收尾成本高，省下的时间常被检查的时间吃掉。
另一笔开销是注意力。如果每一步都要人点确认，它其实没有减轻负担，只是把连续的工作切成碎片，人反而更累。合理的做法是把确认点放在少数几个关键处，而不是全程看守。
我现在的用法
把它当一个刚入职、手脚很快但不太懂人情世故的同事：交代任务时说清交付物长什么样，给一个随时能中断的开关，要求中间结果可查。做坏了不要紧，要紧的是能退回上一步。
回到开头那场被挪错时区的会。问题不在它笨，而在于「明天下午」这种说法本来就需要确认。智能体越能干，这类含糊的地方就越值得提前说清。留一道手动挡，不是不肯放手，是留一个随时能接管的位置——真出事的时候，这比多跑几步流程有用。