做招聘筛选的团队常会遇到这类反馈：业务部门说，模型推来的候选人“越来越像同一个人”。复盘时他们删掉了毕业院校字段，效果却没变——邮政编码、社团名称、实习公司的写法，还在替那所学校说话。模型没有学会判断能力，它学会了复制过去的录用习惯。
这类事情通常不会以“歧视”的名义出现。它藏在一份看起来还算合理的准确率报告里，藏在“历史数据就是这样”的解释里。等到有人提出异议，系统往往已经跑了大半年。
偏见很少写在字段名上
数据不是世界的采样，是过去决策的沉淀。谁被录用、谁被推荐、谁被标成“需要复核”，这些标签本身就是上一轮人工判断的结果。模型把这些判断压缩成权重，跑得更快、更一致，也更难被追问——因为它看上去有数据支撑。
麻烦在于代理变量。敏感字段可以直接删除，但与之相关的行为痕迹删不掉：设备型号、活跃时段、填写表单时的措辞习惯，都可能成为替代品。你以为清理了表面，其实只是把偏见换了个名字。
「算法公平」有好几种说法，它们会互相打架
工程上常见的公平定义，指向的目标并不一致，粗略可分成三类：
- 结果均等：不同群体的通过比例大致相同，不区分基础差异。
- 机会均等：在真实合格的人当中，不同群体的通过比例相近。
- 个体一致：条件相似的人得到相似结果，关注单个样本而非群体统计。
三者很难同时满足。把通过比例拉平，可能让一部分本应通过的人被挡下；只盯住合格人群，又可能忽略整体分配上的倾斜。这不是技术没做好，而是几种价值判断在数学上本就冲突。所以「算法公平」不是一个能验收通过的指标，而是一组必须提前讲清楚的取舍。
把取舍写进需求文档
比较务实的做法，是在动手训练之前先回答几个问题：这套系统影响谁，被拒绝的人有没有申诉渠道，哪一类错误更不能接受。答案不需要漂亮，但要被写下来，让后来接手的人知道当初权衡过什么。
上线前后也有几件具体的事可做：按群体拆分看错误率，而不是只看总体准确率；保留模型卡，记录训练数据的时间范围和已知缺口；对影响较大的场景保留人工复核；把申诉记录当作反馈数据回收。
这些动作都不新鲜，难的是持续。模型会迭代，数据分布会漂移，一次审计的结论过半年就可能失效。
它无法被证明，只能被追问
我不太相信“公平的算法”这种说法。算法只是一组函数，公平是人们对分配结果的判断，而判断随场景变化——招聘、内容推荐、门禁识别，容忍度完全不同。能做的是让判断过程可见、可质疑、可修改，让受影响的人有机会说话。
如果一定要给它一个位置，算法公平更像一项长期维护的工程，而不是某个可以打勾的里程碑。