一个被反复转述的投诉
推荐页上，同一类商品在不同账号里出现的频率差别明显。运营人员被问：这是不是算法偏见？技术团队回答：模型只是按历史点击做预测。两边都没有说谎，但对话很难继续。因为“算法公平”要先回答一个前置问题：在什么维度上公平，和谁比较，代价由谁承担。
公平不是一个开关
把公平当成验收项，容易落入一个误区：找一个指标，调到达标，就宣布完成。现实中，推荐、内容审核、配送调度等系统往往同时处理多个目标。活跃度、满意度、覆盖率、响应速度彼此牵制。若只盯住某个群体的结果比例，可能会改变另一群人的体验；若只看模型输出，又可能忽略训练数据里长期形成的偏差。算法公平因此不是单点修补，而是对目标、数据和反馈的持续协商。
代理变量与反馈回路
很多系统并不直接使用敏感属性，却会借助可观测变量做近似。地区、设备型号、活跃时段、使用习惯，都可能成为代理变量。它们本身未必带有恶意，却可能在组合后指向同一类人群。另一个难点是反馈回路：模型分发内容，用户行为又回到训练集，久而久之，某些群体被看见的机会被压缩，而系统看起来只是“顺应数据”。讨论算法公平，不能只看一次预测，还要看数据如何生成、行为如何被记录、申诉如何进入流程。
解释到什么程度才算有用
可解释性常被当作公平的配套工具，但解释本身也有边界。告诉用户“因为点击过相似内容”，未必能说明为什么另一个账号看到不同结果；给出特征贡献度，也未必能还原业务规则与人工干预。有用的解释应当能支持追问：这个结果能否复现，哪些输入改变了判断，出现争议时由谁复核。否则，解释容易变成技术团队的自证材料，而不是用户可使用的沟通接口。
把公平写进流程，而不是写进口号
实践里，一种务实做法是把公平检查嵌入数据采集、模型训练、上线评估和事后申诉几个环节。它需要产品、法务、运营与工程共同定义可接受的误差范围，也需要保留人工复核的通道。这里没有一劳永逸的公式，只有可追溯的记录和可修改的规则。算法公平的真正难点，或许不在数学，而在组织是否愿意承认：系统会犯错，且错误分布并不均匀。