Anthropic与埃森哲合作部署嵌入式AI安全评估员，未来五年各投至少10亿美元

9月18日，Anthropic宣布与埃森哲合作，将在其内部部署嵌入式评估团队，对前沿AI模型开展红队测试、安全护栏验证及对齐评估，确保技术符合人类目标。双方各计划在未来五年内投入至少10亿美元建设相关能力。埃森哲评估员将获得与Anthropic员工同等的内部访问权限，可实时追踪模型训练演进并观察幕后决策流程。Anthropic称，此举旨在核查其安全承诺落实情况、识别盲点，并向公众提供更透明的风险评估。（产联社）