一个求职者对着手机说完自我介绍,系统给出「表达清晰度偏低」的评语。他普通话带口音,语速偏快。这类落差在语音识别与自动评分里并不罕见:训练语料中某种口音占多数,模型便把它当成默认值,其余口音被折算成偏差。模型谈不上恶意,它只是把数据里的统计习惯原样搬了过来。
先要回答「跟谁比」
讨论算法公平,第一道坎不在技术,在比较对象。是要求相同条件下结果一致,还是要求各群体的错误率接近,抑或要求资源分配比例贴近人群构成?这几个定义在数学上很难同时满足,选哪一个,本质是价值判断。它不该由工程师在深夜调参时顺手定下,也不该等产品上线后被用户追问才补上说明。
标签是人写下的
监督学习需要标签。「好员工」「优质内容」「可信用户」这类判断,往往来自过去的人为决定。如果历史里存在偏见,标签就把偏见固化下来,模型学得越准,复制得越忠实。所以在追问模型准不准之前,更该先问一句:这批标签是谁标的,依据什么标准,有没有人复核过。
代理变量最难处理
删掉性别、籍贯、年龄字段,不等于模型看不见它们。邮编、设备型号、活跃时段、用词习惯,都可能与群体身份相关,成为代理变量。与其宣称「已剔除敏感字段」,不如做敏感性测试:把可疑字段轻微扰动,观察输出变化幅度。变化大的,说明它仍在暗中起作用;变化小的,才可以暂时放心。
审计要能落到流程里
- 分组看指标,不只看总体。总体准确率漂亮,可能在某个子群上系统性出错。
- 保留数据来源与清洗记录。出问题能回溯,比事后辩解有用得多。
- 给受影响的人留申诉入口。这是把公平从口号变成流程的最低成本方式。
取舍要写在明处
缩小群体差异,常常要以整体精度为代价。这个代价由谁承担、承担多少,需要公开讨论,而不是悄悄压在少数人身上。把取舍写进产品文档与验收标准,好过把它藏在模型卡的一行小字里。算法公平更像一段持续的维护过程:数据会漂移,人群会变化,今年合理的阈值,明年可能就偏了。
它也有做不到的事
算法公平能处理的是可测量的差异,处理不了差异背后的结构性原因。一个筛选系统可以做到各群体通过率接近,但如果机会本身分布不均,技术只是把问题挪了个位置。承认这条边界,才不会把复杂的社会问题简化成一次调参。
回到开头那个求职者。他需要的不是一句「系统已优化」,而是有人能讲清楚:这个评分衡量的是什么,为什么这样衡量,判断错了怎么改。技术细节未必人人关心,但可解释与可申诉,是任何自动化判断都该守住的最低线。