一个用户想改收货地址,在两行字里说明了情况。机器人回了一段流程说明,语气礼貌,逻辑通顺,答的却不是他问的那件事。绕了三轮之后人工介入,两句话解决。这类场景在不少客服后台反复上演,只是很少被写进项目复盘。
话说得顺,不等于听懂了
语言模型擅长把一句话说得像样,但它并不天然知道对方在问什么。意图判断如果做得粗,生成能力越强,越容易把偏离包装得体面。响应时长、一次解决率这些指标看上去漂亮,因为礼貌地绕开问题,同样会被记为已回复。
难的是把那句含糊的、带着情绪和错别字的话,翻译成一个可以执行的动作:查订单、改地址、退款、转人工。这一步不性感,也不在演示视频里。很多团队把人工智能当成一个更聪明的搜索框来用,问题就出在这里——搜索框要的是关键词,而对话要的是判断。
人的位置往后退了一格,但没消失
接入之后,一线坐席的人数往往不需要那么多了,可工作没有消失,而是变成了兜底。留下的是系统处理不了的部分:多方争执、情绪激烈的对话、规则里没写到的例外。这些活儿更碎,难按话术批量培训,也更依赖经验。
麻烦在于,兜底工作不好量化。它不出现在漂亮的看板上,容易被当成剩余,也容易在预算收紧时先被削掉。等到某天投诉集中爆发,才发现那群最懂例外情况的人已经不在了。
占大头的开销是上下文
企业里的知识散在工单、聊天记录和老员工的记忆里,格式各异,说法也不统一。模型不是不知道答案,是不知道你们公司怎么称呼那个东西。落地阶段的大部分精力因此花在整理资料、把规则写清楚、界定什么情况必须转人工上,调模型反而是后面的事。
- 同一件事,售后叫“返修”,仓库叫“回寄”,用户说“退回去修一下”,这些说法得先对齐。
- 规则要写成机器能照着做的样子,而不是一句“视情况而定”。
- 转人工的触发条件必须明确,否则它会一直“努力”下去。
有些对话,本来就不该被自动化
涉及责任归属、赔付、多方争执的对话,交回人处理是稳妥的选择。判断依据不该是技术能不能做,而是出错之后谁来承担。把人工智能放在兜底的位置而不是替代的位置,说起来容易,做起来需要有人为不好看的效率数字负责。
务实的路径是先让它处理那些答错了也无妨的问题,把边界一点点摸清,再慢慢往外推。真正难的不是技术,是承认有些对话本来就不该被自动化。