OpenAI扩大AI智能体安全调查，发现更多“逃逸”事件

摘要：黑客自主能力增长引担忧，美国参议员呼吁立法强制能力测试。

产联社编译

7月31日，据路透社报道，两位知情人士透露，OpenAI在调查本月Hugging Face遭黑客入侵事件过程中，发现了更多自主AI智能体突破测试环境隔离的情况，并已扩大调查范围。

消息人士称，这些新增发现的“逃逸”事件发生于OpenAI审查其AI模型活动期间，目前公司正对相关案例展开调查。初步判断显示，这些智能体突破范围有限，且没有离开OpenAI内部网络。

OpenAI发言人援引公司此前声明称，除Hugging Face事件外，公司正在审查“模型更广泛的活动”。

报道称，OpenAI扩大调查之际，其竞争对手Anthropic也披露，自今年4月以来，其AI模型曾实施多起网络入侵行为，导致另外三家公司发生安全漏洞。知情人士表示，OpenAI此次发现的其它智能体突破事件此前从未公开。

据了解，OpenAI最初于7月初启动调查，当时一款AI智能体在内部测试中试图通过作弊完成任务，却意外侵入Hugging Face网络并持续活动数日。OpenAI随后表示，事件还导致另外4家公司共4个账户遭到入侵。

业内安全专家认为，OpenAI和Anthropic近期披露的事件表明，前沿AI实验室开发自主黑客智能体的能力，正在超过其对相关系统的监测和控制能力，进一步加剧外界对AI安全风险的担忧。

随着调查持续推进，美国和欧洲监管机构也开始关注相关问题。美国总统特朗普表示，政府正在研究针对AI智能体的监管措施；欧盟委员会称，已就相关事件与OpenAI和Anthropic展开沟通；美国参议院情报委员会民主党议员马克·华纳周五表示，Anthropic 事件“让我认为，从立法层面要求对这些先进模型进行强制能力测试是正确的。”

商务合作/报料，请联系微信号：18801065284