采风全网
达观天下

当生成式人工智能走进客服工位,问题才刚开始

上午的例会上,一位客服主管把一段由模型生成的回复投到屏幕上。语气妥帖,措辞客气,连客户那句带刺的追问都接住了。讨论没有停在“写得不错”,很快转到另一个问题上:这条回复发出去之后如果出了偏差,谁来签字?

这个细节大概能说明当下企业对生成式人工智能的普遍心态:愿意试,但不敢放手。试点的门槛已经很低,真正让人犹豫的是试点之后的那一段路。

演示与工位之间,隔着一段不体面的输入

演示环节里,提问是干净的、完整的、意图明确的。到了工位,输入变成半句话、错别字、三条信息挤在一段话里,中间还夹着情绪。模型并不会因为读不懂就报错,它会顺着猜下去,给出一个语法通顺、逻辑自洽、但与事实有偏差的答案。这种失败方式比崩溃更难防,因为它看起来像成功。

所以接入之前值得先问一句:这个环节如果出错,成本落在谁身上,能不能被及时发现。能撤回、能复核、影响面小的位置,适合先放进去;输出直接对外的场景,节奏就该慢下来。

它顺手的活,常常不是最要紧的活

从实际使用看,模型在起草、改写、压缩长文、把散乱记录整理成要点这类任务上确实省力。它们的共同点是容错空间大,人扫一眼就能判断要不要改。相反,需要拿捏分寸、涉及承诺、牵扯具体权益的环节,人的介入不能省。

  • 话术草稿、邮件初稿:由人定稿,能省下反复修改的时间;
  • 会议纪要与资料摘要:作为初稿供人校对,比从零写快;
  • 内部知识检索后的复述:需要标注来源,方便回溯;
  • 直接对外承诺、涉及金额与责任的答复:不宜由模型独立完成。

评估比接入更难

接入一个接口是几天的事,判断它到底行不行,可能要几个月。传统的准确率指标在这里不太好用——同一段回复,措辞不同但意思对,算不算过?答得礼貌却漏了关键前提,又该怎么记?这些问题没有现成答案,只能由业务方坐下来,拿一批真实样本定标准,再反复校准。

这也是试点做了几轮又停下来的常见原因:不是模型不够用,而是没人愿意花时间把“什么叫答得好”写清楚。写不清楚,就没法验收,也没法向上面交代。

把它当成需要带教的新人

我更愿意用这个比喻:一个知识面广、上手快、但不懂这家公司规矩的新人。你不会让他第一天就独立面对客户,也不会因为他偶尔出错就否定他。你会给他模板、给他边界、给他一个能随时问的人,然后在他的产出后面加一道复核。

生成式人工智能在企业里的位置,大概就在这道复核的前面。它把重复的、耗时的、需要先有个初稿的活接过去,把判断留给人。这个分工听起来不激动人心,但它是目前少数能长期跑下去的分工。

回到那间会议室。主管最后的处理方式很朴素:先让模型写,再由人来发,出问题按原有流程追溯。没有大张旗鼓,也没有推开不用。这种不彻底的态度,可能恰恰是它真正落地时的样子。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:当生成式人工智能走进客服工位,问题才刚开始
文章链接:https://tech.cfdanews.com/ai/892.html