演示厅里的灯通常调得偏暗。一段语音指令下去，屏幕上的流程自己走完了，坐后排的人跟着点头。这套东西真正搬回自己的办公室，往往要等到几个月后的某个周二下午，才会露出另一面：问题不在它能不能做对，而在它做错的那一刻，没人说得清该找谁。
被反复执行的部分，和剩下的部分
一条业务流程里，被反复执行的那段通常是规整的：格式固定、字段清楚、判断依据写在手册里。这类环节交给系统，收益直接可见。剩下的是例外，比如信息缺了一半、两个条件互相打架、客户在电话里说得含糊。例外占比不高，却几乎吃掉了全部的解释成本。
不少团队在初期会把例外也一并塞进去，期待模型自己扛住。跑一段时间后会发现，答案看上去合理，但依据是拼出来的。这时候要么加人复核，要么把这段退回去手工处理。两条路都通，只是要在设计之初就想清楚退路在哪。
交接时最容易丢的东西
流程从机器回到人手上，中间会有一次交接。这次交接的质量，比模型本身的准确率更影响日常体验。一个人接手处理到一半的工单，如果只能看到结论，看不到它依据了哪几条信息、排除了哪些可能，他就得从头再查一遍。省下来的时间，在这里又还回去了。
所以值得投入的地方，往往不是再调一版模型，而是让中间过程留得下来：它读了什么、跳过了什么、在哪一步犹豫过。这些东西对人来说是负担，对复核的人来说是索引。缺少索引的自动化，本质上只是把工作挪了个位置。
那个确认键由谁来按
系统给出建议，人负责确认，这是目前最常见的分工。但它有个不太被讨论的副作用：如果确认变成很顺手的重复动作，判断力会在不知不觉中变钝；如果每次都认真复核，效率的提升又所剩无几。这个矛盾没有统一答案，取决于错误的代价有多大。代价高的环节，慢一点是应该的。
也见过相反的做法：确认键留给人，但要求他写下不同意的理由。这条要求看起来是增加负担，实际上把人的注意力重新拉回到判断本身。人工智能在这种安排里更像一个提出草稿的同事，而不是一个发号施令的系统。
它擅长的那类问题
回过头看，人工智能在那些“有参考答案”的工作上确实改变了成本结构：检索、归类、翻译、写一份结构清楚的初稿。这些任务的共同点是对错相对可判，错了也能被发现。而需要承担后果的决定，比如放行还是拦下、签约还是再谈，目前仍然落在人身上，原因不只是能力，还有责任没法转移。
这条界线会移动，但移动得比宣传慢。对使用方来说，比较务实的做法是先把边界画出来，再谈部署：哪一段必须有人签字，哪一段可以完全交给系统，哪些例外必须原样退回。这些问题在采购阶段问清楚，比上线后补救省事。
演示厅里的顺畅是真的，周二下午的麻烦也是真的。两者之间隔着的并不只是一代技术，还有一堆没人愿意写进方案里的琐碎约定。