AI安全-全球监管升温

【AI安全担忧持续发酵？OpenAI呼吁制定全球AI标准 重点关注对齐和RSI！】当地时间周一，OpenAI发布了一系列关于前沿人工智能（AI）开发过程中安全保障的提案，重点关注对齐研究和一种称为递归自我改进（简称RSI）的计算技术。该公司在一篇博客文章中表示：“要安全地完成这一转型，需要开展协调研究，以跟上这些能力的发展步伐，从而使我们和其他人构建的系统始终与人类价值观保持一致，并处于人类的控制之下。”

【毛利率被吸至-50%！硅谷独角兽反水OpenAI 中国开源模型成救星】估值达156亿美元的法律AI独角兽Harvey，其业务核心原本是训练OpenAI的GPT-4等AI模型，为律师提供专业服务。然而，近期急剧膨胀的算力与调用成本，正迫使这家明星初创公司重新审视对AI巨头的深度依赖。

【AI网络攻击风险升温 花旗CEO敲响警钟 多位华尔街大佬呼吁放慢研发步伐】据彭博社21日报道，花旗集团首席执行官范洁恩(JaneFraser)在纽约举行的卡塔尔经济论坛(QatarEconomicForum)上表示，人工智能模型越来越强大，随时可能引发网络攻击，各大企业正争相加强防御。范洁恩称：“目前，各家公司都在争分夺秒地增强防御能力，全球企业开展大规模的修补工作。她认为，为保障人工智能防御能力而进行的修补工作，将如同”海啸“般汹涌而至”。

【AI失控恐慌愈演愈烈！OpenAI与Anthropic据悉曾讨论互测大模型】据媒体援引知情人士报道，Anthropic和OpenAI曾考虑签署一份具有法律约束力的协议，以相互对对方的大模型进行压力测试。报道称，今年早些时候，这两家公司及其律师团队曾就此计划展开讨论。在该计划中，竞争对手公司可以对彼此最新可用模型进行深度测试，以寻找潜在的风险或安全漏洞。