一次需求评审会上,有人问:“公平这块要做吗?”会议室安静了几秒,然后话题滑向了排期。这几秒的沉默挺说明问题:不是没人关心,而是不知道从哪儿下手。
算法公平的讨论常常卡在同一个地方:大家都同意它重要,但一落到具体判断,分歧立刻出现。谁跟谁比?差多少算差?谁来定这个标准?这些问题不写在论文摘要里,却决定了系统上线后长什么样。
它不是一个数值,而是一组互相拉扯的约束
工程上最容易接受的做法,是找一个可测量的指标,然后把它压下去。问题在于,“公平”在数学上有好几种互不兼容的表述。群体层面的均衡,要求不同人群获得正向结果的概率接近;个体层面的公平,则关注条件相近的人是否得到相近对待。前者看统计分布,后者看单个人的处境。
这两种诉求在多数现实数据分布下很难同时满足。追求群体比例接近,可能需要放宽对个体相似性的要求;反过来也一样。所以第一个要做的决定通常不是“选哪个算法”,而是“这次我们更在意哪一种不公平”。这个决定是价值判断,技术上无法代劳。
删掉敏感字段,不等于消除了偏见
常见的合规动作是把性别、年龄、地域之类的字段从特征表里删掉。这一步有必要,但不足够。剩下的特征里往往藏着代理信息——设备型号、活跃时段、收货地址的细分粒度,都可能间接携带被删掉的那部分信息。模型并不需要知道你的性别,它只要找到一个足够相关的替代变量就够了。
所以审查的重点不该停在字段清单上,而要往下走一层:这些特征是怎么产生的?采集环节本身是否已经带有偏差?一个只在白天活跃的用户,和一个只在深夜活跃的用户,如果后者因为样本少而被系统判为“异常”,这不是模型学坏了,是数据里本来就没有它的位置。
写进需求,而不是留到上线后
把算法公平当成一个上线前才想起的检查项,代价通常很高。更务实的做法是在需求阶段就定下几件事:
- 明确系统会影响哪些人群,其中哪些人缺少反馈渠道;
- 约定可接受的差异范围,并写清楚这个范围是谁定的、依据是什么;
- 保留一条人工复核的路径,尤其是结果对个人影响较大的场景;
- 上线后持续抽检,而不是只在验收时跑一次报告。
这几条听起来琐碎,但它们把抽象的伦理讨论转换成了可以追责的动作。反过来,如果一份需求文档里只有准确率、响应时间、并发量,那么公平就永远是一个“以后再说”的议题。
更难的部分:谁有权定义公平
技术团队常被期待给出一个客观答案,但这里没有中立的阈值。误差在两类人之间如何分配,本质是资源与风险的分配问题。受影响的人如果不在决策桌上,“公平”就容易变成一句由他人代写的善意。
这也是我比较在意的一点:算法公平不只是一组评估指标,它同时是一种程序安排——有没有人能在被系统拒绝之后问一句为什么,并且得到一个能听懂的答复。
下一次评审会上,如果再有人问“公平这块要做吗”,或许可以先反问:这个系统出错的时候,谁来承担后果。答案往往就指向了该做的事。