晚上十点半，想改一个订单的收货地址。App 里的在线咨询按钮很显眼，点进去，对话框自动弹出一句问候。我打了「改地址」，它回：「请问您要咨询的是以下哪一项？」下面挂着三个按钮，都跟地址无关。我又打了一遍，它说「抱歉，我没有理解您的意思，请换一种说法」。
这类时刻很多人都经历过。多数人的直觉反应是「这机器太笨了」，然后把原因归到大模型还不够强。但如果把一次对话逐轮拆开看，卡住的地方往往不在生成那一步。
先看它听懂了吗
用户输入一句话，系统先要做的是判断这句话属于哪一类问题——业内叫意图识别。这一步通常在生成之前就完成了，结果是一个分类标签，后面的检索和回复都围着这个标签走。
麻烦在于，真实的话很少规规矩矩。一句「我昨天买的东西怎么还没到，能改下地址吗」里塞了两件事，还带着情绪。分类器只能挑一个相近的，另一件就被丢掉了。用户觉得对方在装傻，其实是从一开始就偏了方向。
知识库里有没有答案
假设意图识别对了，接下来是去找答案。这一步依赖知识库的颗粒度。很多企业的帮助文档是写给人看的，一整页讲退款规则，段落长、条件多、彼此引用。切成片段喂给检索系统之后，语义容易走形——「七天内可申请」被单独切出来，前后条件没了，答出来就是另一回事。
现在不少系统用大模型来做最终的表达，语气确实自然了，但依据仍然是检索回来的那几条。检索空了，生成模型并不会因此变得诚实，它更可能顺着上下文编出一段听起来合理的话，或者礼貌地绕圈。
该放手的时候放手
所以真正决定体验的，未必是模型有多大，而是几个偏产品侧的决定：什么情况下承认自己不知道，什么时候把对话交给人工，交接时能不能把前面几轮的信息一起带过去。
后一点常被忽略。用户更烦的往往不是跟机器聊，而是跟人聊的时候要把刚才说过的话再说一遍。转接做得好的智能客服，会把人名、订单号、已确认的问题一并推给坐席；做得不好的，用户面对的是一个重新开始的空白框。
还有一层是考核。如果团队盯的是「自助解决率」这类指标，系统就有动力把对话拖在自己这里，哪怕它其实解决不了。换成看「转人工前用户重复描述了几次」，行为可能就不一样。指标决定系统倾向于逞强，还是倾向于交棒。
它适合放在哪
- 问题高频、流程清楚、答案收敛的场景，比如查进度、改预约时间、问营业信息，让机器先接手是合理的。
- 涉及例外处理、需要判断取舍，或者用户已经带着明显情绪的场景，让机器先挡一轮，往往只是多消耗一次耐心。
这条边界不是固定的，会随着知识库维护水平和对话设计变化，但承认边界存在，比假装它不存在要实际。
回到那个改地址的晚上。我最后拨了电话，等了两分钟接通，人工客服很快改完。挂断前我想，如果那套系统在第三轮就说「这个问题我处理不了，帮您转人工」，我对它的评价会好很多。判断一个智能客服是否合格，也许不在于它答对了多少，而在于它答不上来的时候，多快把话递出去。