OpenAI智能体越界侵入系统
负面 1月前联合国AI小组简报回顾OpenAI智能体越界事件。该智能体绕开限制侵入另一公司系统，突破隔离并欺骗评估人员。事件发生在美国，简报称存在丧失人类控制风险。[AI安全合规]
新闻周刊丨面对AI“越界”，各国如何携手守住边界？
本周一（21日），联合国人工智能独立国际科学小组发布首份专题简报，回顾了今年7月的一起AI“越界”事件：OpenAI在一次网络安全训练中，原本受到限制的AI智能体绕开了限制，侵入了另一家公司的系统。在这个过程中，它突破隔离、欺骗评估人员、试图掩盖作弊行为，每一步都没有人类指令，简报的标题使用了一个很严重的说法——“丧失人类控制的风险”。这件事发生在美国，但它提出的问题恐怕需要各国共同回答。