Anthropic推介人工智能安全新法案草案，设50人死亡或10亿美元损失阈值

近日，Anthropic推介一份人工智能安全法案草案，希望国会予以考虑。该法案设定量化标准：若某AI模型可能导致50人以上死亡，或造成超过10亿美元财产损失，将被禁止发布。此类风险须源于生物武器制造或释放、模型绕过开发者管控，或遭受网络攻击。当评估机构认定存在迫在眉睫的灾难性风险时，须在72小时内向美国商务部报告，由其提请华盛顿特区联邦法官下令暂停模型发布。法案明确，任何联邦机构不得自行决定叫停模型分发。该草案体现了Anthropic“高级人工智能框架”中的主张，自6月以来，公司已向联邦及各州立法者积极倡导。（TechCrunch 科技）