如果把一套生成式人工智能接进售后咨询的入口,最先忙起来的往往不是技术,而是被临时拉来做校对的同事。
它写出来的回复,语气通常比模板客气,措辞也更圆滑。麻烦在于,它会用同样的自信说一件并不成立的事——把保修期限和换货条件混在一起讲,读起来毫无破绽。用户不一定当场发现,等发现时,沟通成本已经翻了几倍。
它擅长的是「像」,不是「对」
跟踪这类应用一段时间,我逐渐形成一个判断:生成式人工智能在语言形态上的拟合能力,远超过它在事实边界上的自觉。它能很快学会一家公司的说话方式,却分不清哪句话有依据、哪句是顺着上下文猜出来的。
所以真正的工作量,不在写提示词,而在划定它可以说话的范围。有几件事事后看比调参数更要紧:
- 把回答拆成「能查到的」和「只能推测的」两类,后者不给出口;
- 让关键结论带上出处,哪怕只是内部文档的编号,方便回查;
- 给「我不知道」留一个体面的说法,而不是逼它硬答;
- 记录每一次人工改写,攒成下一轮的对照样本。
这些做法很朴素,甚至有点笨,但它们把一件模糊的事变得可以复核。模型可以换,流程得留下。
看不见的成本在「版本漂移」
还有一个容易被忽略的地方:同一个问题,今天问和下周问,得到的答复可能不一样。原因可能是模型更新,可能是检索到的文档换了,也可能只是上下文里多说了几句。写文案时这无所谓,但在承诺售后条款的场景里,这就是风险。
应对办法很土:把关键的几十个问题固定下来,定期重跑,人工比对差异。差异本身不代表错,但它必须被看见。这件事没有终点,只能当成日常维护。
人的位置往后退了一步,但没有消失
常有人问,这样用下去,人是不是只剩签字。我的观察相反:人的位置从「写回复」挪到了「定义什么算合格的回复」。这活儿更抽象,也更难推给别人。
也因此,我不太相信「接上就能省人」这类说法。省下来的多是组织措辞的时间,多出来的是审阅、比对和边界协商的时间。两笔账要一起算。
至于生成式人工智能最终会把这类工作带到哪儿,我没有结论。能确定的只有一点:把它当成一个语感很好、但每句话都需要复核的同事,比当成一个可以托付的接口,要稳妥。