采风全网
达观天下

简历被筛掉的那一刻,没人会想起算法公平

一位朋友前阵子投了个岗位,两周后收到自动回复,说她的资料“暂不符合岗位需求”。她想知道是哪一条不符合,回信问了一次,得到的是同一句话的模板回复,落款是系统。她并不确定背后是不是模型在打分,但她确定的是,没人能给她一个理由。

这类沉默的拒绝太常见了,常见到我们不再把它当成问题。只有当被拒绝的人多到某个程度,人们才会把技术方案拿出来重新审视一遍,然后想起有个词叫算法公平。

公平可以同时指两件事

聊这个话题时,双方经常在定义上卡住,因为“公平”本身有多个版本,它们互相冲突。一种是按群体看通过率,不同群体的通过比例要接近;另一种是按个体看,条件相近的人应当得到相近的判断。这两种诉求听起来都对,但落到同一个模型上,往往只能满足一边。

举个招聘场景里常见的推演。假设模型用了“相关岗位经验年限”这一项。历史上某个群体获得这类岗位的机会更少,那么该群体的平均年限就会偏低。按群体通过率来衡量,这项特征会拉偏结果;按个体来衡量,年限确实与岗位胜任相关,去掉它反而让评估更盲目。于是同一件事,两种公平各自给出了相反的修改建议。

更麻烦的是代理变量。把性别、年龄这类敏感字段删掉,并不会让模型失去对它们的感知。邮编、学校、设备型号、常上的网站,都可能与这些字段高度相关。删除字段只是把相关性藏起来,审计时更难发现,实际影响还在。

解释得清,不等于改得动

很多人把希望寄托在可解释性上:只要模型能说清为什么拒绝,问题就解决了一半。这个期待可以理解,但只对了一部分。模型给出“经验年限不足”“技能匹配度低”这样的理由,看上去合理,可它并没有回答“这个标准本身是否合理”。解释针对的是单个决定,公平针对的是一组决定之间是否平衡。两件事不在一层。

还有一层折损常被忽略:运行中的模型是拼起来的。前面有数据清洗,后面有阈值和人工复核。真正影响结果的可能不是模型本身,而是卡在中间那条划线。用固定阈值卡分数,看起来客观,但在分数分布密集的地方,一点点偏移就会改变一批人的去向。

把它当成一个可以被争论的指标

我不太相信有哪个系统能宣称自己已经实现了算法公平,然后就此收工。更现实的做法,是把公平做成一组能被持续测量、被外部质疑的指标,而不是一句写在文档里的承诺。至少要能回答几个问题:

  • 用哪些维度做分组检查,分组本身是否公开;
  • 关键阈值的设定依据是什么,由谁批准,多久复核一次;
  • 被拒绝的人可以通过什么渠道得到一个可以追问的答复;
  • 当不同公平标准冲突时,由谁来做取舍,依据写在哪里。

最后一条不太容易办,因为它不是技术问题。选择哪种公平,本质上是在决定谁承担误判的成本,这是组织必须自己面对的事。技术团队能做的,是把这个取舍摆到明面上,让人看见模型在不同设定下的表现差异。

回到开头那位朋友。她真正想要的未必是一个百分百准确的理由,而是一个可以继续对话的入口。算法公平做不到让每个决定都正确,但至少应该让被影响的人有机会说,“这条我不认可”,并且有人接住这句话。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:简历被筛掉的那一刻,没人会想起算法公平
文章链接:https://tech.cfdanews.com/ai/1991.html