把一个对话模型接进工单系统,头几天通常顺利,人也愿意试。到了第二周,用的人开始变少。原因往往不是答错得多,而是答错的时机不好猜:简单的问题它绕圈子,复杂的问题它给出一个漂亮但缺了关键条件的结论。人得先花几秒判断哪一句能信,这几秒攒起来就成了负担。
这件事的教训不太像“模型还不够好”。更值得琢磨的是交接成本——工具交到人手里那一刻,多出来的判断动作由谁承担。
难的不是生成,是让渡判断
讨论人工智能时,注意力大多放在参数规模、上下文长度、推理步骤上。这些当然重要。但一个系统进入真实流程,改变的是谁在什么时候做决定。原来是看完就签字,现在要先分清哪一段是模型写的、哪一段是人改的。责任链一模糊,团队就会自发收缩使用范围,效率工具反倒增加了沟通。
所以不少团队选择把功能切小:不让它写结论,只让它整理线索;不让它直接回客户,只给三行草稿。听起来保守,好处是边界清楚——人知道自己在审什么,也知道审漏了会漏在哪里。
模糊的正确,比明确的报错更难处理
传统软件出错会给报错、给日志、可复现。模型的失误常常是“听起来合理”,没有异常信号。评估时如果只看对错比例,很容易漏掉错误的分布:是错在无关紧要的位置,还是错在需要签字确认的那一句。后者才是要防的,而它往往在统计里显得不起眼。
一个可行的做法是把错误当成场景来收集,而不是当成分数来统计。哪些句子一旦出错代价明显,就设成硬性拦截;哪些只是措辞不顺,就让它过去。这种划分靠的是业务经验,不是模型能力。
还有一层:没人写下来的规则
流程里总有一些隐性约定——某个字段空着代表什么,哪类单子必须人工确认,某句话在内部是禁忌。这些通常不在文档里,新人靠带教慢慢学会。模型学不到,人也没意识到需要告诉它。上线之后返工最多的地方,往往就落在这些说不清的口头规矩上。
于是问题从“怎么让模型更聪明”,变成了“怎么把这些规矩写出来”。写的过程本身有价值:它逼着团队把多年含糊的做法固定成条文,顺带也让新人少走弯路。这部分收益常常被忽略,因为它不体现在模型指标上。
我更愿意把它当成需要交接的新同事
新同事上手,你会给说明书,也会给禁区;会看他做对的样例,更会看他做错时的样子。把人工智能放在这个位置上,许多纠结就有了解法:不求它一次到位,先求它出错的模式可预期;不求它替代判断,先求它把判断需要的信息摆齐。
代价是前期慢,好处是后面少救火。至于能力上限,交给时间就好;能不能用得顺手,多半取决于这些琐碎、具体、不太像技术的地方。