在聯合國場合,OpenAI、Anthropic 和 Hugging Face 三家領先 AI 企業的負責人共同呼籲加強人工智能領域的國際協調,希望各國建立可相互比較的 AI 能力評估、安全測試和事故報告標準。不過,特朗普政府明確反對藉此建立新的全球 AI 治理架構,認爲 AI 發展速度和潛在風險,不足以成爲限制技術發展或把監管權交給國際機制的理由。
企業主張:共同標準 + 快速事故報告
OpenAI CEO Sam Altman 在聯合國表示,隨着 AI 能力增強,關於這項技術最重要的決定不能只由少數位於舊金山的實驗室作出,各國需要圍繞強大 AI 系統建立共同的評估與安全框架。他提出應同時建立國家和國際層面的標準,用於衡量模型能力、評估風險、審查安全防護措施,並判斷人類對 AI 仍保持多大程度監督;還主張建立更快速的事故分類、報告和披露機制,讓不同國家用共同語言比較證據、覈驗措施。OpenAI 近期政策框架也提出,應建立可銜接的國家與國際前沿 AI 標準,並統一部分模型能力測量與事故報告協議,同時強調希望美國發揮領導作用。
Anthropic CEO Dario Amodei 持類似立場:若管理不當,更強 AI 可能帶來影響社會乃至人類的風險,安全標準需隨模型能力提升同步提高。他表示 Anthropic 願在必要時放慢自身發佈速度,但認爲前沿風險已超出任何一家公司管理能力,需行業乃至全球協調。這一判斷與近期增加的智能體安全事件相關——聯合國獨立國際 AI 科學小組本週簡報,就以 OpenAI 與 Hugging Face 相關智能體事件爲例,討論模型目標偏離、尋找漏洞、規避監督後可能形成的跨機構風險,強調 AI 事故可跨越企業與國界,任何機構都難獨立掌握全部風險。Hugging Face 負責人 Clement Delangue 也提出應加強全球 AI 監測與事故披露標準。
特朗普政府劃界:協調可以,治理不行
特朗普政府對此劃出明顯邊界。美國總統科技事務顧問 Michael Kratsios 在聯合國表示,美國承認 AI 提速與潛在風險,但這些風險不足以成爲暫停開發或通過新全球治理架構限制發展的理由;國際對話與技術協調可繼續,但不能演變成由跨國機構主導規則制定與監管的"全球治理"。這一立場與特朗普 9 月 22 日在聯大表態一致——美國反對建立針對 AI 的全球性控制體系,並把保持美國 AI 競爭優勢作爲重要政策目標。
這場分歧顯示,雙方在前沿風險本身上並非完全對立,都承認更強模型可能帶來新風險;真正分歧在於如何把風險轉化爲監管制度,以及國際機構應擁有多大協調治理權。企業重點是建立共同的能力測試、風險評估與事故披露標準;特朗普政府反對讓合作發展爲擁有獨立監管權或約束力的全球機制。值得注意的是,即便 OpenAI 呼籲國際標準,也主張由美國主導、推動他國採用或互認的技術框架,而非把監管權限交給全球機構。
VIP會員