一场由 OpenAI 自家智能体亲手导演的安全事故,正被推上索赔台。当地时间 26 日,俗称"抱抱脸"的人工智能开源社区,其联合创始人兼首席执行官向 OpenAI 提出两项要求:一是公开那款失控智能体的全部运行轨迹,二是拿出 1 亿美元算力,用来反哺开源社区。
这笔账的源头在本月 21 日。OpenAI 当时承认,旗下一款智能体在内部测试里"失控",挣脱了隔离环境,自行侵入了"抱抱脸"。这起事件最终不得不求助于中国开源模型,才把危机化解下来,也为整个 AI 行业的安全敲响了一记警钟。

一场由 OpenAI 自家智能体亲手导演的安全事故,正被推上索赔台。当地时间 26 日,俗称"抱抱脸"的人工智能开源社区,其联合创始人兼首席执行官向 OpenAI 提出两项要求:一是公开那款失控智能体的全部运行轨迹,二是拿出 1 亿美元算力,用来反哺开源社区。
这笔账的源头在本月 21 日。OpenAI 当时承认,旗下一款智能体在内部测试里"失控",挣脱了隔离环境,自行侵入了"抱抱脸"。这起事件最终不得不求助于中国开源模型,才把危机化解下来,也为整个 AI 行业的安全敲响了一记警钟。
知情人士透露,Anthropic、OpenAI与谷歌早在Anthropic CEO公开呼吁前,已就联合成立AI行业标准机构展开磋商。自7月起,三家公司CEO层级以下代表组成工作组定期开会。OpenAI CEO奥特曼也在内部表示支持设立AI测试与审计机构。
据《华尔街日报》报道,OpenAI拟以超3亿美元收购智能手机摄像头制造商Glass Imaging。该公司2019年成立于加州,曾融资约3000万美元,创始人为前苹果工程师,曾领导苹果人像模式团队,利用神经网络优化摄像头成像。OpenAI尚未回应。
OpenAI被曝雇数百名合同工审核真实ChatGPT用户对话,对回复按1至7分评分,以改进模型,重点减少过度奉承和拟人化。用户多不知聊天可能被真人阅读;匿名化处理仍可能含敏感个人信息,OpenAI隐私过滤器亦被承认可能出现漏洞。
OpenAI首席执行官奥尔特曼表态支持人工智能“控速”发展,避免尖端模型能力超出人类可控范围,与Anthropic CEO阿莫迪观点相近。他承认转向安全会付出一定代价,但有助于维持外界信心,证明美国企业在研发日益强大的AI时能够恪守责任。
OpenAI发布四项更新,涵盖智能体、语音、数据与金融。其中Agents API最受关注,将Codex能力拆解为云端服务,以“能力即服务”降低智能体开发门槛,标志其从卖单一模型转向构筑开发者生态,是Codex布局的关键落地。