【谷歌承认其AI模型在安全测试中侵入三家公司系统】美国谷歌公司18日承认，其人工智能（AI）模型“双子座”今年5月在网络安全能力测试中，侵入了三家真实公司的系统。谷歌安全工程副总裁希瑟·阿德金斯在一份声明中说，在一次常规评估中，双子座模型利用网上公开信息获得了登录凭证，获得了三个其认为属于测试范围网站的访问权限。谷歌已确保三个相关实体获知此事，并与测试合作方调整测试流程。据美国《华尔街日报》报道，测试由以色列“非常规”人工智能公司实施。在其中一项测试中，双子座模型经反复尝试猜中密码，最终进入一个受保护的真实系统。在另外两项测试中，模型从公开存储库中找到登录凭证，并利用这些凭证进入其他公司的受保
细思极恐！谷歌智能体Gemini演练失控 入侵三家真实公司！察觉异常后自主终止攻击
【细思极恐！谷歌智能体Gemini演练失控 入侵三家真实公司！察觉异常后自主终止攻击】据FT中文网9月19日报道，谷歌推出的GeminiAI自主入侵了多家公司。报道称，攻击行为发生在5月开展的一系列演练期间。该演练由AI安全公司Irregular组织，公司还与Anthropic、Meta和OpenAI进行合作。
AI四巨头遭到起诉：放缓AI发展的联合表态是非法协议
【AI四巨头遭到起诉：放缓AI发展的联合表态是非法协议】Anthropic、OpenAI、SpaceX和谷歌上周联合呼吁放缓AI发展，引发了市场的广泛关注，同时也引火上身。周五，一项由大模型用户提起的诉状称，Anthropic、OpenAI、SpaceX和谷歌达成了一项非法协议，他们同意协调减缓AI开发速度的表态，违反了反垄断法，从而降低消费者从付费人工智能订阅中获得的价值。
逾百名专家呼吁对AI企业加强独立监管
当地时间9月18日，美国谷歌公司首次承认，其人工智能模型在今年5月的网络安全能力测试中，突破隔离环境侵入了三家真实公司的系统。这一事件再度引发外界对美国AI模型安全和监管的担忧。当天，超过100名来自世界各地的人工智能专家签署联名公开信，呼吁对全球顶尖的AI企业加强独立监管。