【政策风向】澳大利亚拟设AI安全监管机构,前沿AI企业将面临六项强制性义务

https://assets.wanlianyida.com/industry-uniapp/web/static/image-default.BtYt8t8Z.png
产联社海外
·阅读量:3.8w
1、澳大利亚政府拟设立AI安全监管机构,对前沿AI企业实施六项强制性安全义务,并赋予监管机构高额处罚权。 2、此次监管改革正值AI安全风险受到关注之际。此前,OpenAI模型曾未经授权访问澳大利亚政府网站;与此同时,澳大利亚数据中心建设也面临社区反对和电力供应延迟等挑战。

产联社编译

image.png

图片由AI生成

澳大利亚政府宣布,将通过立法对前沿人工智能(AI)企业实施强制性安全标准,并计划设立专门的AI安全监管机构,对违反规定的企业实施高额处罚。拟议监管措施涵盖模型开发、风险管理、安全事件报告及独立评估等环节。

11月10日,据澳大利亚总理办公室发布的官方新闻稿,政府计划通过有关人工智能标准的立法,确立强制性安全与保障规定,适用于所有希望在澳大利亚开展业务的前沿AI企业。前沿AI是指处于当前技术能力最前沿的先进人工智能模型。

澳大利亚总理阿尔巴尼斯(Anthony Albanese)当天在堪培拉表示,人工智能为提高生产率、增强经济韧性和推动医疗创新带来巨大机遇,但政府必须同时应对技术快速发展产生的新风险。

新监管机构拟执行六项强制性安全规定

根据官方声明,澳大利亚政府拟设立AI安全专门监管机构,负责执行相关强制性规定,并与澳大利亚人工智能安全研究所(Australian AI Safety Institute)合作,提供技术支持与监管监督。

新机构拟获得对违规AI企业实施高额处罚的权力。政府提出的六项强制性义务包括:

1. 在AI模型开发和部署的所有阶段维持安全控制措施;

2. 识别并管理AI模型可能带来的重大风险;

3. 允许独立机构对AI模型进行评估;

4. 发生相关安全事件后,迅速向澳大利亚政府报告;

5. 建立并公开安全与保障框架,强化公司治理、风险管理及透明度;

6. 随着技术发展,及时遵守更新后的标准和监管规定。

政府表示,上述措施与此前澳大利亚议会人工智能联合特别委员会(Joint Select Committee on Artificial Intelligence)中期报告的建议一致,将有助于提前预警失控AI智能体带来的新兴风险,并提高政府在发生严重AI安全事件时的协调应对效率。

相关立法仍在制定和咨询过程中,更多实施细节将于后续公布。

AI安全事件与数据中心发展面临的挑战

11月10日,据彭博社报道,此次监管改革的背景之一,是今年9月披露的OpenAI模型未经授权访问澳大利亚政府网站事件。

虽然被访问的信息不涉及敏感个人数据,但事件引发了外界对AI模型安全风险的关注。此前,OpenAI模型还曾入侵外部企业的在线资源,包括AI数据集托管平台Hugging Face。

针对上述安全事件,澳大利亚政府另行启动了专项审查。审查报告建议修改刑事法律,对严重违规行为追究刑事责任。此外,报告还建议设立“未履行危害预防义务”(failure to prevent)相关罪名。若企业开发AI模型后未采取合理措施防止危害发生,可能承担刑事责任。阿尔巴尼斯表示,政府将采纳全部建议。

据彭博社报道,澳大利亚部分数据中心项目正面临社区反对和电力供应等问题。其中,数据中心运营商NEXTDC位于墨尔本的M3项目因社区反对导致配套电网工程延期,数据中心扩建进度受到影响。

澳大利亚副总理理查德·马尔斯(Richard Marles)上周表示,新建数据中心不应选址于居民区,还应自行解决电力和供水需求,并争取当地社区支持。

澳大利亚政府表示,将在积极吸引人工智能领域投资的同时,优先保障民众安全,维护国家利益。政府希望通过明确的安全标准增强公众信任,同时为投资者提供更稳定的政策预期。

(扫码加入AI产业交流群)

商务合作,请联系侯经理 18801065284(微信同号)

报料及内容合作,请联系chanlianshe2026(微信号)

特别声明:本文仅供参考,不构成任何投资建议,未经允许不得转载。

691
247
分享