先把“答偏”拆开看
团队遇到模型答非所问,常见反应是收集一批问答,做模型微调。这个动作直观:给例子,让模型照着学。但实际工作里,答偏可能来自提示不清、检索缺上下文、业务规则没写进流程,也可能来自模型确实缺少某类表达。把所有问题都压给训练,容易让项目从“调提示”滑向“堆数据”。
样本里的工作,和真实工作差多远
如果训练样本是几位同事坐在会议室里想象出来的,它们往往干净、完整、语气统一;真实输入却夹杂错别字、省略、上下文跳跃。模型微调学到的是样本里的回答方式,不是业务背后的全部判断。数据不像真实工作,训练后的模型可能在演示里显得顺从,上线后却对边缘表达更陌生。
另一个容易被忽略的点是任务边界。这类训练适合让模型更稳定地遵循一种输出习惯、语气或格式,也适合在相对固定的任务里学习输入到输出的模式。但如果规则天天变、答案依赖实时信息,或需要跨系统核对,单靠一次训练很难兜住。此时检索、工具调用、流程校验可能更直接。
评估不是收尾动作
做模型微调前,最好先留一组不参与训练的样本,按真实使用方式提问。看模型错在哪里:是格式不稳,还是事实记错,还是根本不理解任务。训练后再用同一组问题对照。若只拿训练集里的问法测试,结果通常偏乐观。
小步试,别把它当万能补丁
我倾向于把模型微调看成一种“收紧表达”的手段,而不是知识灌装的捷径。它有用,但前提是数据能代表真实输入、任务边界相对清楚、评估方式能暴露问题。先小规模试,保留回退空间。上线后继续观察那些模型答得含糊的句子,往往比再加一轮训练更能说明下一步该改什么。