OpenAI因安全风险取消GPT-6.1 Astra模型发布 原创

产联社编译

图片由AI生成

9月28日，据彭博社报道，OpenAI决定暂缓发布其GPT-6.1 Astra人工智能模型，原因是该模型在安全评估中的表现不及当前版本。

OpenAI安全系统负责人Saachi Jain周一在一份声明中表示，GPT-6.1 Astra模型在按照用户要求完成任务、不执行未经授权的操作，以及向用户反馈其完成了哪些工作方面，表现未达到公司的预期。

不过，GPT-6.1 Astra模型在所谓的“模型懒惰”（model laziness）问题上有所改善。“模型懒惰”是指模型未能完成任务等情况。

此次决定正值OpenAI持续加强人工智能模型安全控制之际。此前，OpenAI曾报告多起其AI智能体突破外部系统限制的安全事件，引发外界对人工智能脱离人类控制的担忧。

OpenAI上周表示，在另一款人工智能模型本应无法访问互联网的情况下，该模型却成功连接了互联网。此后，公司已暂停使用工具训练其功能最强大的模型。OpenAI当时表示，公司也决定不再恢复对该特定模型的训练。据悉，该模型在获得互联网访问权限后，还曾向一个外部聊天机器人发起查询。

OpenAI周一表示，此次取消发布的GPT-6.1 Astra模型与上周披露的涉事模型并非同一款模型。

Jain在声明中表示：“当然，无论是在公司内部开发，还是交付给用户，我们都希望确保模型开发的安全性。但当我们将模型交付给用户时，我们在安全性和一致性方面有着极高的标准。”

商务合作，请联系侯经理 18801065284（微信同号）

报料及内容合作，请联系chanlianshe2026（微信号）