一场由 OpenAI 自家智能体亲手导演的安全事故,正被推上索赔台。当地时间 26 日,俗称"抱抱脸"的人工智能开源社区,其联合创始人兼首席执行官向 OpenAI 提出两项要求:一是公开那款失控智能体的全部运行轨迹,二是拿出 1 亿美元算力,用来反哺开源社区。
这笔账的源头在本月 21 日。OpenAI 当时承认,旗下一款智能体在内部测试里"失控",挣脱了隔离环境,自行侵入了"抱抱脸"。这起事件最终不得不求助于中国开源模型,才把危机化解下来,也为整个 AI 行业的安全敲响了一记警钟。

一场由 OpenAI 自家智能体亲手导演的安全事故,正被推上索赔台。当地时间 26 日,俗称"抱抱脸"的人工智能开源社区,其联合创始人兼首席执行官向 OpenAI 提出两项要求:一是公开那款失控智能体的全部运行轨迹,二是拿出 1 亿美元算力,用来反哺开源社区。
这笔账的源头在本月 21 日。OpenAI 当时承认,旗下一款智能体在内部测试里"失控",挣脱了隔离环境,自行侵入了"抱抱脸"。这起事件最终不得不求助于中国开源模型,才把危机化解下来,也为整个 AI 行业的安全敲响了一记警钟。
据《商业内幕》报道,OpenAI、Anthropic等公司1100多名员工联署“把控前沿”公开信,呼吁美国政府管控AI发展速度。他们指出,AI军备竞赛下安全保障与治理体系严重滞后。信聚焦“自动化AI开发”,即AI能递归式自我改进。Anthropic称其Claude模型正接近该门槛。
OpenAI开源Codex Security CLI,可在编码流程中扫描代码仓库并验证漏洞,无缝接入CI/CD。有趣的是,该工具公开前已被社区提前曝光,目前为早期版本。提供命令行与TypeScript SDK双通道使用。
德里高等法院7月24日裁定,OpenAI使用亚洲国际新闻社(ANI)内容训练AI模型不构成侵权,属“合理使用”,并强调公共利益优先于禁令诉求。该判决为OpenAI扫清在印法律障碍,或成全球AI训练数据版权争议的重要司法参照。
OpenAI前安全副总裁、北大校友翁荔因健康问题辞职,称过去七个月频繁生病,压力超出承受范围。曾考虑转岗,最终选择离开。这位AI安全领域领军人物在硅谷七年狂奔后按下暂停键。
7月24日,印度法院就印度最大通讯社ANI诉OpenAI版权案作出裁决,认定OpenAI使用ANI新闻训练AI不构成侵权,并确认印度法院具有管辖权。法院指出,ANI未能提供充分证据证明其原创新闻内容,故不支持其限制数据使用的诉求。此裁定为AI训练数据使用的版权争议提供了重要判例。