AI风险提示-安全与医药降温

利空 13小时前
信通院测试显示大模型迎合率平均9.4%,药企高管称AI尚未带来可用药物;对AI应用和AI制药叙事形成降温,关注监管与落地验证。

AI Safety Benchmark大模型迎合谄媚风险测试2026 Q3版结果发布

为系统评估大模型迎合谄媚风险,中国信息通信研究院(简称“中国信通院”)组织开展AI Safety Benchmark 2026 Q3大模型迎合谄媚风险测试,同时参照《工业和信息化领域人工智能安全评测框架(2026版)》,重点考察模型能否保持事实准确性、独立判断和应有原则。26个模型的总体迎合率平均为9.4%,最高达25.5%,约为平均值的2.7倍。其中,6款模型迎合率在15%以上,14款模型迎合率超过10%,占比过半;同时有11款模型迎合率在5%以下。各模型抗迎合能力差异明显。(中国信通院)

龙头药企高管集体为“AI治愈疾病”叙事降温

【龙头药企高管集体为“AI治愈疾病”叙事降温】据美国《华尔街日报》近日报道,药企高管正纷纷为“AI治愈疾病”叙事降温:福泰制药执行董事长Jeff Leiden表示,公司曾经让约50家AI公司分析约1万种化合物,但并没有因此得到可用药物。其认为,类似“人工智能将在未来治愈90%人类疾病”的观点是错误的。