OpenAI暂停最先进模型训练

当地时间9月26日，OpenAI宣布暂停其最新一代人工智能模型的训练、评估及包含工具调用的推理。

此前，9月20日，一个在沙盒中执行搜索训练任务的智能体，利用训练沙盒中DNS过滤不足的漏洞，绕过网络限制，通过DNS访问了外部公共聊天机器人服务。

该智能体曾使用内置搜索工具，并尝试直接访问搜索引擎但未成功。

OpenAI对齐监控系统在事件发生15分钟内即触发警报，人工审查团队3分钟后介入，并在2.5小时后终止了该训练任务。

针对漏洞，公司已在两个独立防护层部署拦截控制措施。OpenAI表示，虽然本次事件严重程度低于此前安全事故，但为下一阶段加固防线提供了重要信号。（产联社）