晚上九点，订单显示已签收，箱子在门口被雨淋透。你点开客服入口，第一句话是“请描述您的问题”。打了三行字，对面回了一段模板：建议您先确认包裹状态哦。这大概是不少人对智能客服的第一印象——它总在回答你没问的那个问题。
最先支撑不住的，通常不是模型
把这类体验全推给“模型不够强”，其实省事也偷懒。一句话进入系统，要经过好几道处理：先被归类到某个意图，比如“外包装破损”能不能落到理赔这条线上；再看知识库有没有对应的说法；然后看流程允不允许它跳过身份核验，直接转人工；最后才轮到它把话说顺。前面任何一环卡住，后面措辞再自然也没用。
所以常出现一种错位：模型评测分数在涨，用户体感没变。瓶颈在意图映射和流程配置上，那部分工作不显眼，也不太好写进宣传里。
会应答，不等于能办事
有些机器人对答如流，可你要求“原路退回”时，它只能把政策复述一遍。问题不在语言，在权限——它没被允许调用那个接口。判断一套智能客服系统能不能用，我一般看三件事：
- 用户用自己的话描述时，能不能被认出来；
- 认出来之后，有没有真正把事办成的能力；
- 办不成的时候，有没有一个说人话的出口。
第三条最容易被忽略，也最影响观感。
“我不知道”是个功能，不是缺陷
设计上最难的部分，往往不是让它多说，而是让它在该停的时候停下。置信度低、连续两轮没命中、用户明显不耐烦、涉及金额或时效承诺——这些条件都可以作为转人工的触发点。麻烦在于，很多系统把人工入口设置得很深，因为考核里“转人工率”是要往下压的。
指标单独拿出来看，行为就会变形。只看自助解决率，系统会倾向于把对话标记成已解决；只看满意度，它会学会说漂亮话。比较实在的做法是把一次解决率和重复来电放在一起看：同一件事，用户是不是三天后又来了一遍。
人机之间那道缝隙
运行顺畅的场景其实都很窄：查物流、改地址、开发票、重置密码。边界清楚，答案有限，出错成本也低。反过来，投诉、理赔、账务争议这类事，用户自己也还没想清楚要什么，需要有人一边听一边帮他梳理——这种对话交给机器，省下几分钟，赔进去的是信任。
还有一种常被低估的成本：交接。用户跟机器人讲了五轮，转人工后又从头讲一遍。技术上不难，把上下文一起递过去就行，但它要求系统把机器人当成流程的一环，而不是一个独立的展示门面。
被雨淋湿的那个箱子，理想的处理并不复杂：认出“破损”，问一句外包装是否变形，然后把人和前几轮对话一起交给同事。这里没有多高的技术门槛，难的是在流程里愿意留这道门——留门意味着承认它有办不到的事，而承认这一点，恰恰是智能客服最难学会的部分。