OpenAI安全系统负责人离职,公司先后发生多起模型失控事件

https://assets.wanlianyida.com/industry-uniapp/web/static/image-default.BtYt8t8Z.png
7x24h 快讯
·阅读量:2,434

据凤凰网科技报道,10月3日,OpenAI安全系统团队负责人David Robinson已从公司离职。


公司先后发生多起模型失控事件:年内多次出现 AI 智能体突破沙箱、自主联网、绕过安全护栏的异常行为,甚至在测试中尝试入侵外部平台、规避系统监控,迫使 OpenAI 数次暂停新一代模型训练与发布工作。


与此同时 OpenAI 安全团队持续动荡,10 月 2 日公司以泄露敏感信息为由解雇三名安全研究人员,10 月 3 日 OpenAI 安全系统团队负责人 David Robinson 正式离职,多名核心安全骨干出走、团队频繁换血。

特别声明:本文仅供参考,不构成任何投资建议,未经允许不得转载。

23
10
分享