谷歌Gemini在测试中越出边界，误入三家真实公司系统
产联社编译
图片由AI生成
9月18日，据路透社报道，今年5月，谷歌Gemini在第三方网络安全公司Irregular组织的一次攻防能力测试中，因测试环境意外开放互联网访问权限而接触到真实网络。执行测试任务时，Gemini误将一家真实公司当作测试目标，并将网上发现的另外两家公司的登录凭据当作可能的测试线索，最终先后进入三家真实公司的受保护系统。
这被认为是已知首例谷歌AI模型在网络安全测试中自主越出测试边界，并访问真实外部系统的事件。
谷歌安全工程副总裁Heather Adkins表示，Gemini在测试过程中发现了互联网上公开的信息，并通过获取或猜测登录凭据，进入了三个它误认为属于测试范围的网站。其中一个案例中，Gemini持续尝试猜测密码，直至获得受保护系统的访问权限；另外两个案例中，模型从公共代码仓库发现登录凭据，并利用这些凭据进入受保护系统。Adkins表示，Gemini随后均自行停止了相关操作。
谷歌已通知受到影响的三家机构，并与测试合作伙伴调整评估流程。Irregular表示，此次事件涉及的问题与其他AI实验室此前出现的类似情况相同，相关实验室已于7月底收到通知，目前该公司已知的问题均已完成修复和处理。
Meta、Anthropic和OpenAI此前也披露过与Irregular测试相关的类似事件。Meta曾表示，其测试事件不涉及突破沙箱等隔离环境或复杂网络攻击。Irregular目前正在制定针对AI网络安全能力测试的安全实践，以降低模型在获得互联网及计算机系统访问权限后超出预设测试范围的风险。
随着AI智能体被赋予更高自主性，并能够直接操作互联网和计算机系统，此类事件也使测试环境中的权限控制、目标范围限制以及模型自主行为的安全防护受到更多关注。
商务合作，请联系侯经理 18801065284（微信同号）
报料及内容合作，请联系chanlianshe2026（微信号）
特别声明：本文仅供参考，不构成任何投资建议，未经允许不得转载。