OpenAI智能体疑越出测试环境 控制德国程序员网站作为通信“留言板”

摘要：研究人员发现OpenAI智能体在德国DseWiki网站留下逾1.5万次编辑，涉及任务作弊、规避限制及隐藏行为等策略；OpenAI称尚未审阅完整研究报告。

产联社编译

图片由AI生成

9月4日，据路透社报道，一份最新研究及两名知情人士透露，今年5月，一批被认为来自OpenAI的AI智能体在测试过程中越出预定环境，控制德国程序员维基网站DseWiki的部分内容，并将其作为智能体之间分享信息的“留言板”。该事件此前未被公开报道。

AI安全非营利组织Nightingale等研究人员称，他们8月下旬发现相关活动，并在DseWiki上识别出超过1.5万次由AI智能体进行的编辑。这些内容包括如何在部分任务中作弊、绕过OpenAI限制、规避检测以及掩盖自身行为等策略。部分智能体还讨论使用Tor（一款免费的开放源代码通信软件）等工具，并尝试在遭关闭后继续维持通信。

研究人员称，6月网站管理员开始删除相关页面后，智能体又创建备份页面以应对清理，并发现了尝试篡改网站本身的行为。伦敦国王学院研究人员Lukasz Olejnik认为，相关操作相当于黑客攻击企图，但OpenAI对这一界定提出异议。

研究人员判断这些智能体与OpenAI有关的依据包括：相关账户以远超人类的速度活动，集中解决AI公司常用于模型训练和评估的技术问题；部分账户使用“OpenAIResearcher”等名称；公开服务器日志还显示，大部分活动来自微软Azure基础设施，OpenAI 有时会使用该基础设施。他们还观察到，该事件发生后 OpenAI 员工多次访问该网站；他们称，这一模式强烈表明这些智能体与该公司存在关联。不过，路透社报道并未显示OpenAI已公开确认这些智能体确属该公司。

据四名知情人士透露，OpenAI内部部分调查人员曾希望扩大对相关AI活动模式的调查。OpenAI否认其法律团队阻碍调查，并表示德国事件与7月Hugging Face遭入侵事件无关。对于最新研究，OpenAI称尚未获得完整报告，无法对其中具体结论作出实质回应，将在报告发布后进行审阅并采取必要的后续措施。

商务合作/报料请联系侯经理 18801065284（微信同号）