客服中心是最早被改造的地方，也是最容易被误判的地方。常见做法是把高频问题交给自动应答，把疑难杂症留给人工。分工听起来清楚，运行几个月后，问题常常出在没人预料的位置：留下来的那批人，越来越不擅长处理普通问题了。
被抽走的中间地带
判断力不是从难题里长出来的。一个人能迅速察觉某句话不对劲，靠的是此前成千上万次平淡无奇的对话——大多数正常，偶尔有一点偏差。这些偏差很轻微，不构成投诉，也不值得上报，但它们构成了手感。
当人工智能把这些平淡对话全部接走，人手上只剩两类：极简单的确认和极度棘手的争执。前者不需要判断，后者几乎没有参照。中间那片最能积累经验的区域，被悄悄搬空了。
这并不是在反对自动化。值得留意的是，效率账面上省下的时间，有一部分转化成了别处的成本，而且这部分成本不会立刻出现在报表里。
例外处理的隐形成本
转人工这件事本身有代价。
- 上下文丢失。用户要把说过的话再说一遍，情绪在重复中被放大。
- 判断依据不可见。人工看不到模型为什么这样回答，只能推翻重来，或者干脆顺着说。
- 责任边界模糊。出问题时，很难说清是规则写得不对，还是执行时没拦住。
还有一个更微妙的现象：当系统给出一个看起来完整的答案，一线员工倾向于不去改动它。改动需要理由，需要承担改错的后果，而顺着系统走看起来更安全。久而久之，人工审核变成了点确认。
把例外当成设计对象
把人工智能接进流程时，比较务实的做法是不再把人当成兜底开关，而是把例外本身设计进去。
- 刻意保留一部分常规请求由人处理，不为效率，为保持手感。
- 让模型输出判断依据和不确定程度，而不只是一个结论。
- 把转人工的原因结构化记录下来，这些记录往往比满意度评分更能说明系统缺什么。
这几件事都不新，难的是它们和短期降本的方向相反，所以通常先被砍掉，等问积累到一定程度再补回来。
人工智能在流程里的位置，往往不取决于它有多能干，而取决于组织愿不愿意为它留下的空白负责。有些空白必须留着，因为填进去的是人的经验；经验一旦中断，重新长回来需要的时间，比上线一套系统长得多。
真正该问的问题也许很朴素：当系统接走大部分请求之后，仍然处理例外的那部分人，还在不在成长？