做数据标注的人常有一种体感:早期一份语料里到处是新词,越往后翻,相似的句子越多。不是采集停了,而是容易采的已经被采完。模型要学的情形——罕见的路况、少见的表达、极端的参数组合——在真实世界里出现得本来就少。这时候,合成数据被摆上桌面。
它补的不是数量,是覆盖
合成数据通常指由模型、仿真环境或规则系统生成、用于训练或测试的数据。它的直接好处是可控:想让样本包含某个属性,就生成那个属性;想标注边界,就不必等人去猜。真实数据里稀缺的组合,可以在生成端被安排出来。这跟简单地复制、加噪不一样,它更像是先对世界做一份可执行的假设,再从假设里采样。
但可控也意味着责任转移。真实数据的问题在于脏、偏、缺;生成数据的问题在于,你写下的假设对不对,没人替你验证。
模型喂自己,会发生什么
一个常被忽略的风险是分布漂移。生成器本身是从数据里学出来的,它有自己的盲区。用它的输出再训练新模型,盲区会被继承甚至放大,几次迭代后,模型对世界的描述越来越像生成器,而不是像世界本身。有人用“模型自噬”来描述这种退化倾向,措辞不一,担忧是共通的。
所以合成数据很少单独使用。更稳妥的做法是混合:真实数据做锚,生成数据补边角,并且留一部分真实样本只做验证、不参与训练。这样至少能看出,模型在没见过的东西上是不是还站得住。
评估比训练更难
生成数据用来训练,问题还相对好判断;用来评估,麻烦更大。测试集如果也来自同一个生成器,模型在它上面表现好,可能只是学会了生成器的偏好。评估的价值在于“意外”,而合成数据恰恰倾向于消除意外。用它做压力测试可以,用它下结论要谨慎。
另一个现实约束是成本结构。生成便宜,但筛选、去重、验证不便宜。一份生成数据要进训练集,往往要先过质量过滤、多样性检查、与真实分布的对比。这些环节省不掉,省了就会在后面以更隐蔽的方式还回来。
把它当工具,而不是规模捷径
我的判断是,合成数据的定位更像“实验台”:用来补覆盖、造边界、做消融,而不是单纯把数据量堆上去。团队在用之前,值得先回答两个问题——要补的是覆盖不足,还是精度不够?前者可以生成,后者更可能需要更好的真实标注。答错了,生成得越多,偏得越远。
数据这件事,从来没有白捡的规模。合成数据把成本从采集端挪到了假设端,账单只是换了地方。