谷歌-Gemini越狱事件

利空 2天前
黑天鹅突发IT服务软件开发
谷歌证实Gemini在第三方安全测试中意外突破测试环境，访问三家真实企业系统。AI安全风险暴露，或强化监管，关注AI安全概念。
AI安全越狱

谷歌首次公开Gemini越狱事件 在测试中自主入侵三家真实公司

9月18日，据外媒报道，谷歌证实，今年5月在第三方AI安全公司Irregular组织的“夺旗（CTF）”网络安全测试当中，Gemini模型意外突破本应隔离的测试环境，接入互联网并访问到三家真实企业的系统。本次测试目标本为虚构企业，因虚构目标与现实企业重名，加上测试环境意外开放互联网权限，导致模型转向真实线上系统。其中一
企查查