一份简历在招聘系统里停留的时间很短。它没有明显的硬伤，学校、专业、经历都与岗位描述对得上，却因为“职业空窗期”被放进待定区。招聘者后来才知道，模型把空窗期当成了不稳定信号。问题不在于模型算错了，而在于它准确学习了过去筛选者的偏好。
这类场景是讨论算法公平的起点：不公平未必来自恶意，常来自沿袭。历史决策里如果已经存在某种倾向，模型会把它翻译成可计算的规律，再用稳定的方式重复出来。
不公平常常不是算错，而是学对了
模型训练需要标签。招聘里常见的标签是“是否通过初筛”“是否入职”“是否留任”，这些标签看似客观，其实都带着过去决策的影子。若过去的筛选者习惯性压低某类候选人的评价，模型学到的就不是岗位能力，而是筛选者的口味。此时只调整模型结构，作用有限，因为目标本身需要重新讨论：我们想预测的是绩效、稳定性，还是仅仅复现旧流程？
删掉敏感字段，不等于删掉偏见
一个常见误解是，把性别、年龄、籍贯等字段从特征里拿掉，模型就干净了。现实里，地址、学校、设备型号、工作年限的断点，都可能是敏感属性的代理变量。它们不直接说明身份，却能拼出近似的轮廓。算法公平的难点之一，就在这里：偏见不一定以敏感字段的形式出现，而会藏在对结果的间接拟合里。要处理它，需要做特征审计和分组误差检查，而不是只看字段清单。
阈值背后是价值判断
分类模型总要设一个阈值，超过就进入下一轮，低于就淘汰。阈值放在哪里，决定了谁承担误判的代价。把门槛调严，漏掉合适人选的风险上升；调松，筛选成本上升。这不是纯技术问题，也无法靠一句“让模型自己学”解决。业务负责人需要说明：这个环节愿意接受哪种错误，谁有渠道申诉，人工复核在什么条件下介入。
反馈回路会让偏差自我加固
被模型挡掉的候选人，通常不会进入后续流程，也就不会留下“本可以胜任”的证据。下一轮训练时，模型看到的仍是旧筛选结果，于是继续沿同一方向收敛。这种反馈回路不显眼，却会让偏差逐渐像“事实”。可解释性在这里不是装饰，而是责任分配的基础：至少要能回答，哪些特征在起作用，哪些群体受到的影响不同，复核结果有没有回到评估中。
把公平写进流程，而不是写进口号
算法公平很难被压缩成一个开关。可行的做法，是把它拆进流程：
- 先明确要保护谁、在哪个环节保护、愿意承担什么代价；
- 记录标签从哪里来，是否存在替代标签，不把历史结果当成唯一真相；
- 上线前检查代理变量和分组误差，上线后定期复核，而不是一次验收；
- 保留申诉和人工复核通道，让被拒绝的人有机会补充信息；
- 把复核中发现的问题反馈给模型评估，而不是只处理单次投诉。
这些动作不炫技，甚至有些笨。但它们把算法公平从抽象原则拉回到具体决策：用什么标签、设什么阈值、谁来解释、谁来修正。模型不会自己理解公平，它只会放大组织已经写进数据里的判断。真正的选择，仍然在写需求、定指标、批上线的人手里。