会议室里，一段杂乱的会议记录被丢进对话框，几秒钟后，整理好的条目列在屏幕上。看的人点头，说这个能用。三个月后再问起，回答常常是：还在测试环境里跑。这类落差并不罕见，而它跟模型聪不聪明关系不大。
演示挑的总是最好走的那一步
演示有一个隐含前提：输入是干净的，任务是明确的，结果错了也没人追究。真实工作里，这三条几乎都不成立。材料来自不同的人，格式各异，还夹着手写和截图；需求本身模糊，做的人得先猜清楚到底要什么；一旦出错，会有人来问这是谁定的。
模型擅长在模糊中找到“看起来合理”的答案，流程要求的却是“可以照着做”的答案。这两者之间的缝隙，就是项目卡住的地方。
概率性的输出，遇上确定性的流程
大多数流程是按“要么对、要么重来”设计的：表单少一个必填项就提交不了，编号对不上就查不到记录。而人工智能给出的往往是一个概率上的最优猜测。两套逻辑放在一起，常见的解法是在中间加一道人工复核。
加完之后，账要重算。原来一次做完的事，现在变成机器做一遍、人看一遍。省下的时间和新增的复核时间，很多时候正好抵消。这不说明方向错了，而是说明：把人工智能塞进流程，本质是一次流程改造，不是装一个插件。
真正耗时间的是那些没有演示价值的部分
- 数据在哪几个系统里，谁能拿到，多久更新一次；
- 字段名称在两边指的是不是同一件事；
- 结果不可用时，退回到哪一步，由谁接手；
- 出了问题，日志里能不能查到当时输入了什么。
这些事一条条捋清楚，往往比调模型花的时间更长，也直接决定这套东西能不能被天天使用。它们不适合放进汇报材料，却是日常运转的真正底座。
有些活，本来就不该交给它
判断标准可以很朴素：如果错了以后能被便宜地发现并纠正，就适合让模型先做一版；如果错了的代价很高、事后难以追溯，那前端多留一道人工反而更省事。把所有环节都往上套，最后得到的是一堆需要人盯着的新任务。
所以评估一套人工智能系统时，我越来越不看它演示时多流畅，而看接入之后的第三周：团队里有没有人确实少做了一件重复的、没人愿意做的事。如果没有，那它大概率只是一次效果不错的展示。