OpenAI CEO 薩姆·奧爾特曼（Sam Altman）在聯合國安理會就 AI 議題發表講話，討論 AI 發展帶來的機遇與風險，並呼籲加強國際合作，建立針對前沿 AI 系統的能力評估、風險評估、安全防護和人類監督標準。他表示，隨着 AI 能力快速提升，技術的潛在收益與風險都變得更加直接顯現——AI 可能更像一場充滿創造力與發現的文藝復興，也可能像一場引發動盪與混亂的工業革命。

兩條主線：失控風險與權力集中

奧爾特曼將 AI 可能帶來的嚴重問題概括爲兩個方向。其一，是失去對未來的控制：AI 進展太快，人們無法跟上，也無法在需要時干預。他直言，行業不能因爲 AI 利益太大就接受過多技術風險，也不能因企業競爭而倉促決策；"OpenAI 過去曾單方面放緩，未來也會如此"，不應訓練無法極強論證可受人類控制的模型，無論把災難風險估爲 10%、1% 還是 0.1%，都不可接受。他特別提到遞歸自我改進（AI 參與 AI 開發的過程），認爲若開發進一步自動化，技術進步速度可能快速提升，須保持高度謹慎。

其二，是老生常談的權力集中：不應讓最強模型和相關權力集中在少數人手中，避免某個人、公司或國家用 AI 把自己的世界觀強加給所有人。奧爾特曼強調，必須拒絕這種邏輯，即便它對自己有利。OpenAI 試圖在盲目樂觀與末日論之間走中間道路，遵循三條原則：人類應繼續處於 AI 決策核心；科學進步與經濟增長的收益應服務於人民；技術必須賦能個人，讓更多人利用技術實現自身目標。

數學已到國際競賽水平，治理須走民主進程

奧爾特曼還談到 AI 在數學研究上的進展：OpenAI 模型從三年前只能處理小學算術，到兩年前高中競賽金牌水平，如今已達國際數學競賽水平。他舉例，幾周前一個內部模型解出了千禧年大獎難題之一的納維 - 斯托克斯方程。但他強調，解題不爲數學本身，而是賦能人們發現新知識、改善醫療，且公司不能替代民主進程——若 AI 要"民主"，最重要決定不能僅由舊金山實驗室做出，必須通過民主進程、由對人民負責的政府塑造，這在國際層面需要合作。

他主張建立互補的國內外前沿 AI 標準機制，衡量能力、評估風險、驗證保障措施，並在系統更自主時保留有意義的人類監督；還需準確快速的事件報告與共享漏洞的安全渠道。演講結尾，奧爾特曼稱世界正處於十字路口：一條路通向權力集中、決策不透明，另一條路通向 AI 爲人民服務、由人民通過民主制度決定其發展，"這纔是值得建設的未來"。