设想一个常见的客服后台场景:弹出一条工单,用户问,上周提交的地址修改为什么还没生效。系统里的AI大模型很快给出一段回复,语气平稳,步骤清楚,还提醒用户检查短信。人工客服点开历史记录才发现,地址修改还卡在身份核验,短信根本没有发出。那段回复不算错,却把一个未完成的状态说成了已完成。
这类小事故很难归因于“模型不行”。它更像一个提醒:把模型接进业务流程,和让模型写一段话,是两件事。前者要面对状态、权限、时序和责任,后者只需要语言通顺。
回答一句话,背后要接多少状态
客服对话里,用户的问题常常不是知识题,而是状态题。地址有没有改,订单走到哪一步,工单被谁接手,这些信息不在模型的参数里,而在业务系统里。模型擅长把零散信息压缩成通顺表达,却不会天然知道“哪条记录才是当前有效的那条”。如果检索到的旧记录和新记录同时进入上下文,它可能把两者揉成一个看似合理的答案。
常见的补法有三种:检索增强,把相关文档和记录找出来;工具调用,让模型去查实时状态;结构化约束,把可回答的范围收窄。它们都有代价。上下文越长,噪声越多;权限越细,调用链越长;回答越像人,用户越容易把它当成承诺。工程上能跑通,不等于业务上能放心。
先设计“答错之后”
我倾向于把AI大模型的落地问题倒过来看:先不问它能答多复杂,先问答错之后谁来发现、谁来回滚、谁来解释。客服场景里,人工兜底不是多余,而是流程的一部分。系统需要留下模型看到的上下文、调用的工具、给出的结论,以及人工是否修改过。没有这些记录,复盘只能靠回忆,改进也无从谈起。
另一个容易被忽略的点是语气。模型被训练得礼貌、完整、少犯错,这会让不确定的答案看起来同样确定。与其让回复“像客服”,不如在不确定时明确说“我需要再确认一下”。这句话不漂亮,但比一段顺滑的猜测有用。
不是所有窗口都适合自动化
把AI大模型放进客服后台,合适的起点往往是高频、低风险、可回滚的问题:营业时间、常见操作路径、公开规则解释。涉及身份核验、权限变更、承诺确认的环节,模型可以帮忙整理信息,但不适合独自给出结论。边界清楚,反而更容易把体验做稳。
回到那条地址修改工单。后来人工补了一句“还在核验,预计今天下午会再联系您”,用户很快回复“好的”。技术没有消失,只是退到了后面。对AI大模型的期待,也许不该是让它替人回答所有问题,而是让它把该查的查到,把该留的留痕,把不确定的地方交回给人。