Anthropic公司拟设50人死亡阈值，法官可封禁重大风险AI模型

在缺乏联邦法律的背景下，Anthropic公司起草人工智能监管草案，提议一旦人工智能模型存在导致50人以上死亡或造成超过10亿美元损失的紧迫风险，法官即可下令封禁该模型。该草案要求开发者对“最强大的模型”进行测试，并向公众公开测试结果，接受独立评估，建立健全的安全保障机制。公司发言人表示，该提案还赋予联邦政府权力，以阻止或遏制最强大模型的危险部署。该草案将优先于部分州级法律，如加利福尼亚州现行法规。此前，Anthropic公司曾因安全问题被特朗普政府禁止进入五角大楼，并在2026年6月被迫暂停运行其最先进模型近三周（商业调频电视台）