深夜收到一封用户来信，说自己的简历被系统自动筛掉了，理由一栏写着“综合匹配度不足”。第二天复盘时，团队确认模型里确实没有性别字段。但“工作空窗期”“毕业院校”“社团经历”这几个字段叠在一起，仍然能拼出很多东西。这是算法公平讨论里最常被跳过的一步：删掉敏感字段，并不等于删掉了敏感信息。
字段删了，代理变量还在
这类间接携带群体信息的字段，通常被称为代理变量。模型并不理解“空窗期”意味着什么，它只看到相关性：某类人群在这个字段上的分布更集中，于是权重被推高。问题在于，相关性一旦进入训练，就很难事后剥离——把一个特征删掉，剩下的特征很快会补上它的位置。
所以只做字段清单式的自查，往往只能得到一种心理安慰。更实际的做法是记录特征之间的关联强度，在训练前后各做一次对比，看某个群体的通过率是否因为字段调整而明显漂移。漂移不一定是错的，但没人解释的漂移值得停下来问一句。
“公平”本身就不止一个版本
讨论往下走，很快会碰到一个更麻烦的地方：公平有多种彼此冲突的定义。
- 人群均等：不同群体的通过比例大致接近。
- 机会均等：在条件同样达标的人当中，通过比例大致接近。
- 个体一致：相似的人得到相似的结果。
这几条通常被认为难以同时满足。想让两个群体的通过比例贴近，可能要在标准上做补偿；想只按“够格程度”对齐，又可能让整体比例继续偏离。选哪一条，是价值判断，不是调参能解决的事。真正危险的场面，是技术团队默默选了一条，业务方以为是另一条，对外宣称的又是第三条。
阈值是隐形的政策
模型输出的是一个连续分数，落地时却要变成“过”或“不过”。这个切分点定在哪里、谁定的、有没有人复核，直接决定了谁承担误差。分数本身不区分代价：把一个合适的人挡在门外，和把一个不合适的人放进来，对系统来说是同一个错误，对当事人不是。
因此在讨论算法公平的时候，我越来越倾向于先问阈值，再问模型。阈值往往是在某次会议上顺手定下的，之后再没人碰过，也没人记录理由。它看起来是技术参数，实际更接近一条没有公示的规则。
它是一场持续的维护
还有一个容易被忽略的机制：模型会反过来塑造它看到的数据。被推荐的內容获得更多曝光，获得更多曝光的内容又成为下一轮训练的材料，循环几轮之后，原本微弱的不均衡会被放大。这意味着一次上线前的验收，几乎不可能覆盖模型全生命周期的表现。
比较靠谱的做法并不复杂，但需要耐心：
- 把选定的公平定义写进文档开头，让业务方确认，而不是藏在附录。
- 保留申诉入口，并让它真的有人看，而不是收集完就归档。
- 定期重测各群体的通过率与误差分布，把结果和上一次放在一起看。
- 为阈值变更留下记录，写清楚谁改的、为什么改。
这些做法听起来都不够“智能”，也不产生演示效果。但算法公平本来就不是一个可以被一次性解决的问题，它更像是一种习惯：承认系统会犯错，并且愿意为犯错的后果留下可以追溯的痕迹。文档里的那句话写得再漂亮，也替代不了深夜里那封邮件被认真读完。