凌晨两点，工单队列还在往上涨。过去这个时间点，值班的人靠经验判断哪一条必须立刻叫醒人、哪一条可以等到早上。现在多了一道工序：系统先过一遍，归类、抽关键信息、草拟一段回复。人第二天来，看到的是一列已经整理过的条目。
很多人把这件事理解成“少了一个人”。实际发生的变化更微妙——判断被切成了两段。哪一段交给模型，哪一段必须留给人，这个问题的难度不低于模型本身。人工智能进场之后，真正要重画的是这条线。
它补的是模式，不接后果
语言模型干的事，本质是在大量文本里学到的模式补全。它给出的是“看起来像”的答案：像一条摘要、像一个分类、像一段得体的回复。这类任务出错时，人扫一眼就能看出来，所以适合先交给它。
但一旦输出直接触发动作——对外承诺、中断流程、通知客户——错的代价就落在别处了，落在接收到这条信息的人身上。所以评估一个功能能不能上线，我会先问一句：它出错的时候，谁在什么时间点能发现？如果答案是“没人发现，直到对方找上门”，那这个功能的位置就放错了，问题不在模型准不准。
成本不会消失，只会换一段出现
前后对比一下账目会更清楚。夜里的人力峰值确实降了，但调用有成本，复核要人力，规则和提示词也需要有人持续维护。队列在深夜变短，在白天变长。忙没有消失，只是从夜班挪到了白班的复核环节。
这一步很容易被忽略。试点阶段大家盯着夜里的响应时间，等铺开之后才发现，白天的核对工作量成了新的瓶颈。如果一开始没把复核这笔账算进去，数字会显得很好看，但那是账面好看，不是流程变轻。
留一条能退回去的路
工程上有几件事值得先做，且和模型强弱关系不大：
- 可追溯——每次输出保留原始输入与版本，事后能还原它当时看到了什么。
- 可回退——人工的覆盖要真的生效，而不是写进日志、实际流程照旧。
- 可拦截——高风险动作先停一下，等一个明确的确认再往下走。
这三条听起来保守，作用其实是把试错成本压到可控范围。允许它错，但错的半径要小、要能被看见。
有些位置不适合交出去
我的判断标准大致有三条：责任无法转移的事；高度依赖现场感、需要看实物和看人的事；需要向具体某个人解释“为什么是你”的事。这些地方，人工智能适合当草稿纸，不适合当签字的人。它可以先把材料铺开、把选项列出来，最后那一下由人来做，并且这个人清楚自己为什么这么选。
回到那张值班表。多出一行不是终点，真正的工作是重新画线，而且这条线会随模型能力和业务需要不断移动。承认它会移动，比宣称一次上线解决了所有问题要诚实得多。