客服机器人回答产品问题时,句子很顺,却把内部叫法“蓝本”解释成设计稿;换成“白板”又当成办公用品。问题不在句子是否通顺,而在模型没有把公司语料里的长尾词和业务动作连起来。这时有人会提出:做一次模型微调吧。
先分清“不会说”和“不知道”
基座模型通常知道语言怎么组织,却未必知道团队内部的缩写、流程和例外。模型微调能把这类稳定模式写进参数,让输出贴近指定任务。但它不是资料库。若事实经常变化、需要逐条引用来源,检索增强或提示词约束往往合适;微调更像训练一种反应习惯,而不是灌入一份随时更新的手册。
数据少不等于数据简单
准备微调数据时,常见误区是只收“标准答案”。真实对话里有错别字、指代、省略和情绪,训练集若过于干净,模型遇到脏输入仍然发懵。一种可操作的做法是保留边界样本:正例、反例、模棱两可的表达都放一些,并写清期望输出。标注规范要能让不同人做出一致判断,否则模型学到的可能是标注者的个人偏好。
- 同一问题的不同问法,尽量覆盖业务里的真实说法。
- 容易混淆的术语,放进对照样本,不只给正确解释。
- 无法回答时希望模型怎么回应,也要作为样本出现。
评估不能只看“像不像”
微调后的回复往往更顺,但顺不等于对。评估时可以把任务拆成事实一致性、格式遵循、拒答边界和语气稳定性几项,分别观察。离线测试集要留出未参与训练的新样本,最好包含近期出现的说法。上线后仍需抽样检查,因为用户会不断带来新的表达方式。模型微调不是一次性交付,它更像维护一套会漂移的规则。
什么时候值得动模型
如果任务边界清楚、输入输出格式稳定、已有一定量高质量样本,且通用模型在语气或结构上反复跑偏,微调就有讨论价值。反过来,如果问题主要来自知识过期、权限控制或流程不清,先改检索、改提示、改产品交互,通常省力。把流程问题误判成模型问题,微调只会把混乱固化进参数。
所以,模型微调值得做,但它的起点不是“我们有一个模型”,而是“我们弄清了这个任务反复失败的原因”。在这个前提没成立之前,动参数可能只是让错误看起来专业。