关于算法公平的讨论,最容易卡住的地方往往在于定义,而不在于立场。同一套模型、同一批数据,换一个指标来看,结论可能完全反过来。有人在会上提议把判定阈值调低一点,让通过比例更接近人群构成;工程师随即指出,这样做会让另一部分本来能被正确识别的人被误判。两边说的都是公平,指向的却不是同一件事。
两个都叫公平的东西
粗略地分,一类要求落在群体层面:不同群体在结果上的比例应当接近。另一类要求落在个体层面:条件相似的人应当得到相似对待。前者关心总量,后者关心配对。麻烦在于,在多数现实设定里两者很难同时满足:当不同群体的基础分布本来就不一致时,任何向一方倾斜的调整,都会在另一方留下痕迹。这属于数学上的取舍,并非工程做得不够好。
于是“算法公平”这个词,实际指的不是一个状态,而是一组互相拉扯的约束。讨论时若不说清采用哪一条,争论就会一直在原地打转。
标签是过去的回声
指标之上还有一层更隐蔽的问题:标签本身。监督学习学的是历史判断的分布——谁曾被标注为通过,谁曾被标注为违约,谁曾被判定为高风险。这些标注来自过去的人为流程,流程里可能早已嵌入了不经意的偏差。模型把这些标注当作标准答案去逼近,做得越准,越忠实地复现了过去的判断方式。
所以只检查输出端的比例是否均衡,很容易漏掉输入端的问题。更麻烦的是代理变量:把敏感字段删掉,看似干净了,但一些与敏感属性高度相关的字段仍可能悄悄替代它发挥作用。字段清单看起来合规,模型实际依赖的路径却不是字段清单能完全约束的。
错误总得有人承担
任何判定系统都会有误判,公平问题在很大程度上是“错误如何分配”的问题。阈值调高,一类错误增加;调低,另一类错误增加。被误判的人承受的代价并不对等:有的是多填一张表,有的可能失去一次机会。把这些代价摊开来谈,比争论哪个指标更正确要有用得多。
这也意味着,算法公平很难被当成一次性的交付物。模型上线后数据分布会漂移,业务规则会改,用户行为会变,今天成立的均衡过几个月可能已经不成立。持续监控、可申诉的通道、能说清理由的拒绝通知,这些看起来不“智能”的部分,反而是公平能否落地的基础设施。
技术能做的与不能做的
- 能做的是把取舍显性化:明确采用哪条约束、容忍多大的误差差、由谁来决定。
- 能做的是留下痕迹:记录每次判定所依据的字段与版本,让事后复盘有据可查。
- 不能替代的是制度判断:一个社会愿意把多少误差分给谁,这不是模型能回答的问题。
回到开头那场争论。真正需要回答的或许并非“调低多少才公平”,而是“我们准备接受哪一种不公平,以及为什么是这一种”。把这个问题问清楚,算法公平才会从一句口号,变成可以被检查、被争论、也被修正的工程实践。