最近，OpenAI 的 CEO 薩姆・阿爾特曼宣佈他將退出公司內部的安全委員會，該委員會自今年五月成立，旨在監督 OpenAI 人工智能模型開發和部署的關鍵安全與安全決策。阿爾特曼的這一決定引起了廣泛關注，他希望將這一角色交給第三方專家，以增強透明度、合作和安全性。

OpenAI，人工智能，AI

隨着阿爾特曼的離開，這個安全委員會將轉變爲一個 “立的監督委員會”，專注於安全和安全問題。新任委員會主席是來自卡內基梅隆大學計算機科學學院的機器學習部門主任齊科・科爾特。他接替了前任主席佈雷特・泰勒，後者也已經離開了委員會。委員會的其他成員包括 Quora 聯合創始人兼 CEO 亞當・丹吉洛、美國退役陸軍將領保羅・納卡索內和前索尼公司執行副總裁兼總法律問妮可・利格曼。

在科爾特的領導下，該委員會將負責審查 AI 用來評其最新大型語言模型 ——OpenAI o1的安全性和適用性標準。OpenAI o1引入了先進的推理能力，聲稱在物理、化學生物等領域的表現超越人類博士，並在數學和編碼方面同樣表現出色。

OpenAI 還提出了委員會未來的使命，包括建立獨立的 AI 安全和安全治理，增強安全措施，促進對 OpenAI 工作的透明度，和外部組織進行合作，以及統一公司在模型開發和監控方面的安全框架。公司表示:“我們承諾不斷改善發佈高能力和安全模型的方式，安全與安保委員會將在塑造 OpenAI 未來的過程中發揮關鍵作用。”

然而，阿爾特曼的管理風格引發了外界的爭議，特別是在他於去年底被迫離開後，又速回歸 OpenAI 的背景下。他特斯拉的埃隆・馬斯克的關係也相對緊張，後者是 OpenAI 的創始董事之一。關於 OpenAI 技術安全性的質疑頻繁出現，包括公司是否使用了非法的保密協議，並要求員工報告與監管機構的接觸。

阿爾特曼的這次離開將對 AI 治理產生何種影響，尚不明朗。有人指出，這可能表明 OpenAI 正在認識到 AI 治理中中立性的重要性，願意在管理 AI 安全和風險方面更加開放。

劃重點:

🌐  阿爾特曼退出 OpenAI 安全委員會，旨在推動更獨立的監督機制。  

🔍  新主席齊科・科爾特將領導委員會，繼續評估 OpenAI 新模型的安全性。  

🤝  OpenAI 計劃加強與外部組織的合作，提升透明度和安全措施。