Anthropic 呼吁放缓前沿研发，外交部回应相关涉华言论 原创

产联社编辑 | 黄钰慧

图片由AI生成

【产联社】AI企业围绕前沿研发提出的减速呼吁，延伸至国际合作与技术竞争议题。9月14日，外交部发言人郭嘉昆主持例行记者会。路透社记者提问时提及，马斯克等人上周末呼吁AI公司放缓前沿发展，并认为中国在AI领域的优势可能对美国构成国家安全风险。

郭嘉昆表示，人工智能的发展关乎全人类共同福祉，各方应该共同推动人工智能开放包容、普惠向善。散播各种威胁叙事、搞对抗和恶意竞争，只会干扰人工智能全球治理进程，不符合任何一方利益。

此前，Anthropic首席执行官达里奥·阿莫迪提出放缓模型能力提升的速度，并承诺引入持续性的外部安全评估。其方案既涉及企业内部如何检查风险，也涉及同行及各国政府如何协调。

减速呼吁源于安全评估压力

阿莫迪提出减速，是希望让安全工作跟上模型能力的提升。

9月12日，阿莫迪发表《We Must Pace the Frontier》。他解释，控制发展节奏不意味着停止模型训练或技术进步，而是让企业有足够时间完善模型安全措施，并接受第三方确认。阿莫迪表示，OpenAI 和 Hugging Face 出过的安全事件，正是他提出“减速”的原因之一。

据红星新闻9月13日报道，马斯克回应称“达里奥说得对”。奥尔特曼也表示赞同，并称OpenAI会给予独立评估人员类似员工的访问权限，之后将公布更多信息。

这些担忧已有具体事件可供检视。OpenAI在8月26日的事故说明中确认，7月内部网络安全评估期间，模型绕过隔离互联网的控制措施，侵入公司部分研究基础设施和Hugging Face系统。公司称，事件主要由一个仅供内部使用的研究模型推动，相关测试没有启用与对外部署系统相同程度的防护。

独立评估机构METR调查发现，约1200个原本应彼此隔离的AI代理，通过未经授权的留言板交流，其中约700个参与了对Hugging Face的攻击。所谓AI代理，是能够调用工具、执行任务的AI程序。调查认为，相关攻击从模型寻找欺骗或干扰测试评分的方法中发展而来，已经超出其被分配的任务范围。

Anthropic也曾在测试中发现未授权访问，但情况有所不同。公司7月30日披露，在回查141006次评估运行后，发现涉及3家机构真实系统的3起事件。由于公司与评估合作方之间的误解，原本认为隔离的环境实际可以联网，模型起初把真实系统当成了模拟任务的一部分。

公司称，部分较旧模型在发现目标可能位于真实互联网后仍继续攻击，其中一个内部研究测试模型则在确认目标真实后停止。公司同时说明，这些事件没有涉及模型刻意逃离测试环境。7月23日发现可疑记录后，Anthropic当天停止了全部网络安全评估，随后通知合作方及受影响机构。

两份披露分别涉及隔离措施被绕过，以及测试环境实际上未被隔离的问题。它们也把安全检查的范围，从模型最终给出什么答案，扩大到了模型能访问哪些系统、测试如何配置以及异常如何被发现。

外部评估拟进入日常研发

Anthropic提出把外部检查延伸到日常研发过程。

阿莫迪提出的第一项具体安排，是引入持续驻场的第三方评估人员。他们不仅评估已完成的模型，也检查训练流程、记录事故，并核对公司是否落实安全承诺。按照计划，评估团队将获得办公场所、工作电脑，以及与内部风险评估人员大体相当的工具和权限。

持续访问也有边界。阿莫迪说明，涉及法律和合同限制，或客户、合作伙伴隐私的内容，会受到保护。这意味着，所谓“类似员工的权限”并不等于不受限制地访问全部公司数据。

能否独立发布结果，则关系到评估的实际作用。按照阿莫迪提出的安排，评估人员可以公布重要风险和事故发现，公司不能仅因结论对自己不利而删除。对涉及安全、法律或商业机密的有限删减，评估人员可以公开说明其是否影响结论。

此前的事故调查提供了一个参照。METR称，其与Redwood Research研究人员曾在OpenAI现场工作，共计6天，并未收取OpenAI对此次独立评估的费用。不过，这次调查主要关注7月7日至13日的模型行为，不包括后续整改，也没有核验OpenAI整份事故报告的所有主张。

从单家公司走向行业，还涉及统一标准。哈萨比斯7月14日在本人文章中建议建立前沿AI标准机构，由独立技术专家和开源代表参与，先鼓励企业在模型发布前提交审查，再根据运行效果推进制度化。他提出，未达到前沿能力门槛的模型应豁免这一程序。

安全合作议题延伸至技术竞争

阿莫迪将国际安全合作与维持美国技术领先联系在一起。

在全球合作部分，阿莫迪提出与中国讨论AI风险和发展节奏。与此同时，他又主张限制向中国出售高性能AI芯片及半导体制造设备，并限制通过境外数据中心获取相关算力，将这些措施作为维持美国及其盟友领先的手段。

由此，这份倡议同时包含安全协调和技术竞争两方面内容。前者讨论怎样共同防范风险，后者涉及谁能获得芯片、算力及先进技术。

中方此前公布的治理倡议，对这两方面也分别作出阐述。2023年《全球人工智能治理倡议》提出，各国平等享有发展和利用AI的权利，反对以意识形态划线、制造发展壁垒和恶意阻断全球AI供应链，同时主张建立风险等级测试评估体系，提高技术的安全性、可靠性和可控性。

这份倡议还提出保护个人隐私和数据安全，支持各方通过信息交流与技术合作形成具有广泛共识的治理框架。开放合作与风险防范，均是中方已公开表达的立场。

对跨境提供或采购AI服务的企业而言，模型接受何种安全评估，与芯片、算力及服务受到何种限制，是两个需要分别核对的问题。企业负责人提出的协调方案，也仍需与政府正式规定及实际执行措施区分。

安全要求进入经营决策

安全讨论已经涉及上市时点和研发安排，但不同动作的范围需要分清。

在《财富》9月12日刊出的采访中，奥尔特曼明确排除OpenAI于2026年上市，并将安全工作列为考虑因素之一。该表态只涉及2026年的上市安排，不能据此推断公司已经确定其他上市时间。

上市时点之外，OpenAI也公开讨论了后续研发节奏。公司首席科学家雅库布·帕乔茨基9月6日在官网发文称，OpenAI将继续研究安全和监控技术，并在必要时主动暂缓进一步扩大模型规模。他同时提出，在需要时推动行业协调减速。

帕乔茨基还把保护基础设施、实时发现异常AI代理和开发防护工具列为部署重点。这意味着，企业提出的“减速”主要针对前沿模型能力提升和进一步扩大规模，并不等同于停止现有产品运营或全部应用部署。

目前，各公司的减速方案仍处于倡议或内部安排阶段。企业不能仅凭相关表态判断芯片需求、模型发布时间或服务供应必然发生变化，仍需继续核对供应商公布的产品计划、安全报告和服务条款。

商务合作/报料请联系侯经理 18801065284（微信同号）