據《商業內幕》報道,OpenAI安全系統團隊負責人約翰內斯·海德克即將離職。這是近年來OpenAI安全與對齊團隊最新一位離任的核心成員,AI分析師安德魯·柯倫甚至借用《哈利·波特》中的說法,將OpenAI安全負責人走馬燈般更替的現象形容爲一種"詛咒"。

openai

安全負責人頻繁更迭,多人公開質疑公司安全態度

海德克於 2021 年加入OpenAI,在上一任安全負責人翁荔離職後接手該團隊,負責模型發佈前的風險評估和緩解措施。OpenAI表示,研究與安全副總裁米婭·格萊澤將接任,推動安全工作更深入融入各研究團隊。然而OpenAI一直未能穩定留住高級安全負責人,一些離職員工還曾公開質疑公司是否真正重視安全工作。

聯合創始人揚·萊克在 2024 年 5 月離職時直言,OpenAI更看重推出產品而非確保安全,"安全文化和安全流程已經被光鮮的產品擠到次要位置"。AGI準備工作高級顧問布倫戴奇則警告:"OpenAI沒有準備好,其他任何前沿實驗室也沒有準備好,整個世界同樣沒有準備好。"

八名核心成員先後離開

近年來離開的安全重點團隊負責人包括:聯合創始人伊利亞·蘇茨克維,離職後創立Safe Superintelligence;聯合創始人揚·萊克,隨後加入Anthropic繼續對齊研究;研究與安全副總裁翁荔,在OpenAI工作近七年後於 2024 年 11 月離職。此外還有模型政策安全研究負責人瓦隆、風險準備團隊負責人馬德里、首席未來學家阿基亞姆,以及安全系統團隊負責人海德克。其中瓦隆和萊克均選擇加入競爭對手Anthropic,這一趨勢令外界對OpenAI的安全承諾持續產生疑問。