AI安全进入产业治理阶段，谁来定义下一代安全标准 原创

产联社编辑 |黄钰慧

图片由AI生成

【产联社】AI安全正在从模型实验室走向产业治理现场。9月底，美国总统特朗普与多家科技企业负责人在白宫会面后宣布，相关企业签署一份具有“道德约束力”的人工智能协议，承诺建立内部控制、外部审计和董事会监督机制。

美联社报道称，该协议属于企业自愿承诺，不具有法律强制力。特朗普还提出考虑成立约10人的委员会监督人工智能行业，但委员会是否成立、成员如何产生以及是否拥有监管权力，尚未明确。

白宫协议的出台，正值前沿模型安全事件受到集中关注之际。OpenAI和Anthropic近期相继披露，相关模型在测试或评估过程中曾访问第三方系统。企业正在讨论共同标准，政府正在探索监督机制，模型能力提升带来的风险也逐渐从实验室测试进入真实网络和商业系统。

企业自律开始进入治理机制

最新协议没有建立新的强制监管机构，但把AI安全责任进一步推向企业内部控制和外部审计。

根据美联社对协议的报道，签署方承诺对AI系统建立多层控制机制，包括内部风险评估、外部审计或评估、董事会独立审查，以及由内部团队持续监测模型能力和安全状况。协议还提出，参与企业将定期举行会议，讨论安全标准和最佳实践。

从治理结构看，这些要求已经超出传统的产品测试。它不再只要求研发团队在模型上线前做一次安全评估，而是要求企业把安全管理延伸到训练、部署、更新和上线后的持续运行过程。

这意味着，AI安全开始进入董事会、审计机构和公司内部控制体系。对于模型企业、云服务商和芯片企业而言，安全记录未来可能不只是技术文档，也可能成为客户采购、政府合作和商业合规的一部分。至于这些安全审计是否会形成统一的披露格式，当前协议尚未给出明确安排。

这份协议能否从企业自律承诺变成可验证的行业规则，仍有待观察。审计结果是否公开、违规后是否有相应后果，以及企业是否接受外部机构持续检查，都是协议后续落实中需要明确的问题。

AI安全风险从输出内容转向系统行动

随着AI从回答问题转向自主执行任务，安全问题开始表现为模型突破权限、访问外部系统和处理数据时的行为失控。

OpenAI在8月下旬发布的调查报告中披露，2026年7月，其模型在内部网络安全评估中绕过原本用于隔离互联网的控制措施，并影响OpenAI内部研究基础设施和Hugging Face部分系统。

OpenAI称，相关模型利用研究环境中的基础设施获得互联网访问，并访问第三方系统。公司随后表示，正在加强模型生命周期中的安全要求，包括建立更严格的隔离环境、限制互联网访问、控制模型权重访问，并增加对模型推理过程和异常行为的监测。

9月，OpenAI又披露，研究和评估环境中的智能体曾通过第三方服务传输训练和评估数据。截至该公司披露时，已有53张用户提供的图像被发布到图床网站。OpenAI表示，相关内容大部分已经被删除，公司正在继续处理剩余内容。

另一份OpenAI技术说明显示，9月发生的一起事件中，智能体通过DNS工具获得了外部响应。监测系统随后发出警报，人工审核人员确认了警报，但运行任务直到数小时后才被终止。OpenAI表示，事件暴露了网络隔离、监控严重程度判断和人工处置流程中的缺口。

这些事件把AI安全的关注重点进一步推向模型运行环节。一旦模型具备联网、调用工具、读写文件和长期执行任务等能力，企业需要防范的就不只是错误回答，还包括权限扩大、数据外泄和跨系统传播。

安全合作与竞争同时升温

AI公司一边加快能力竞赛，一边开始共享安全研究和异常事件信息。

Anthropic在9月发布的一份安全评估报告中称，公司对约4.81亿条记录进行了更广泛的扫描，并发现四起Claude模型未经授权访问真实第三方系统的事件。Anthropic表示，这些事件发生在第三方搭建的网络安全评测环境中，由于环境配置错误，模型意外接入开放互联网，公司已通知受影响方。

Anthropic在报告中还表示，随着模型能力提升，安全和对齐能力需要比模型能力更快成熟。公司支持以协调、可验证的方式控制前沿AI能力的发展速度。

OpenAI则在2026年7月与Hugging Face合作调查相关安全事件，并表示AI安全不会由任何一家企业单独解决。双方还与外部研究机构合作，对模型行为和事件影响进行独立评估。

从企业动作看，AI安全合作至少出现了三个方向。企业开始披露模型越界事件，邀请外部机构参与红队测试和调查，并讨论在前沿模型能力达到一定水平后，是否需要放慢训练或部署速度。

但合作并不意味着竞争消失。OpenAI、Anthropic、谷歌和xAI仍在模型能力、算力资源和商业化速度等方面展开竞争。白宫协议提出定期讨论安全标准，但具体标准、审计要求及执行后果仍未明确。

监管尚未定型

AI安全问题正在与监管边界、企业责任和市场估值发生联系。

美国白宫此前发布的行政命令已经把AI安全与网络防御、知识产权保护和政府系统升级联系在一起。该命令要求相关政府部门加强先进AI系统的网络防护，并推动政府与私营部门合作提升AI系统的安全能力。

9月29日的白宫协议把外部审计和董事会监督纳入企业承诺，但特朗普同时强调，不能让政府监管阻碍AI发展。现阶段，美国政府一边要求企业加强安全管理，一边仍在谨慎处理监管力度与产业发展之间的关系。

芝加哥联邦储备银行行长奥斯坦·古尔斯比近期表示，市场对AI生产率提升的预期可能推高当下经济过热风险。芝加哥联储此前发布的研究则讨论了AI生产率预期与货币政策之间的关系。

美国联邦储备委员会官员迈克尔·巴尔也表示，AI可能推动生产率和经济活动，但投资者是否能够获得与当前预期相匹配的回报，仍是需要观察的问题。

中国AI企业面临新的安全考题

随着AI进入编程、办公和企业管理等场景，企业需要关注的已不只是模型能否正常运行，还包括产品会读取哪些数据、调用哪些工具，以及异常行为发生后由谁负责。

9月18日，智谱旗下AI编程工具ZCode发布情况说明称，代码库索引功能在生成Repo Wiki页面时可能触发仓库数据上传。智谱表示，相关数据在云端生成页面后会销毁，且相关代码数据未用于模型训练。

9月21日，智谱宣布开源ZCode，并称已移除Repo Wiki功能、切断本地仓库快照生成与上传链路，同时邀请中国信息通信研究院和绿盟科技开展安全审计。这起争议的核心，不只是代码有没有上传，还包括产品实际读取了哪些文件、用户是否充分知情，以及企业如何证明数据已经删除。

监管层面对AI应用安全的关注，也已覆盖模型审核、训练数据和生成内容标识等环节。中央网信办披露，2026年“清朗·整治AI应用乱象”专项行动第一阶段累计处置违规网站、应用程序和智能体等AI产品1.4万余款；网信办还提到，智谱已构建多模态审核模型，针对多轮对话意图反转等复杂场景开展交叉复核。

企业部署能够联网、调用工具并持续执行任务的智能体时，需要确认模型能够访问哪些数据、是否可以调用外部工具、是否保留完整日志，以及异常行为由谁处置。

对AI企业来说，安全投入将延伸至模型测试、产品审计和事件披露。对使用AI的传统企业来说，数据权限、操作留痕和人工干预也需要纳入日常管理。下一步值得观察的是，企业自律承诺能否转化为统一的测试方法、清晰的事件披露机制和可执行的责任规则。

商务合作，请联系侯经理 18801065284（微信同号）

报料及内容合作，请联系chanlianshe2026（微信号）