国連の場で、OpenAI、Anthropic、Hugging Faceの3社の主要なAI企業の責任者が、人工知能分野における国際的な調整を強化するよう呼びかけ、各国が相互に比較可能なAI能力評価、セキュリティテスト、事故報告の基準を整えることを望んでいる。ただし、トランプ政権は、これにより新たなグローバルなAIガバナンス構造を設立することに明確に反対しており、AIの発展速度と潜在的なリスクが、技術の発展を制限したり、規制権を国際機関に委譲する理由にはならないと考えている。

企業の主張：共通の基準＋迅速な事故報告

OpenAIのCEOであるSam Altmanは国連で、AIの能力が向上する中で、この技術に関する最も重要な決定が旧金山にある少数の研究室だけで行われてはならないと述べた。各国は、強力なAIシステムについて共通の評価と安全フレームワークを構築する必要があると強調した。彼は、モデルの能力を測るための国家的および国際的な基準を同時に設けるべきであり、リスクを評価し、セキュリティ対策を審査し、人間がAIに対してどれだけの監督を維持しているかを判断するための基準を設定すべきだと提案した。また、異なる国が共通言語を使って証拠を比較し、措置を検証できるようにするため、事故の分類、報告、公開のメカニズムをより迅速に構築すべきだと主張した。OpenAIの最近の政策枠組みでは、国家的および国際的な先端AI基準を接続可能にするべきであり、一部のモデルの能力測定と事故報告プロトコルを統一するべきだとしている。さらに、アメリカがリーダーシップを発揮することを希望していると強調している。

AnthropicのCEOであるDario Amodeiも同様の立場を取っている。彼は、管理が不適切であれば、より強力なAIが社会や人類に影響を与える可能性があると指摘し、安全基準はモデルの能力に応じて同時に向上すべきだと述べた。彼は、必要であれば自社の発表スピードを遅らせる準備があるが、先端リスクはどの企業でも管理できるものではなく、業界全体あるいはグローバルな調整が必要だと考えている。この見解は、最近増加したエージェントのセキュリティイベントと関係している。今週、国連の独立した国際AI科学小委員会は、OpenAIとHugging Faceの関連するエージェントの出来事を取り上げ、モデルの目標の逸脱、脆弱性の探求、監督の回避後に形成される跨機関のリスクについて議論した。その結果、AIの事故は企業や国境を越えて発生し、あらゆる機関がすべてのリスクを独占的に把握することはできないと強調した。Hugging Faceの責任者であるClement Delangueも、グローバルなAIモニタリングと事故公表基準の強化を提案した。

トランプ政権の境界線：協調は可能、ガバナンスは不可

トランプ政権はこの問題に対して明確な境界線を示した。米国の科学技術問題担当補佐官であるMichael Kratsios氏は国連で、米国はAIの加速と潜在的なリスクを認識しているが、これらのリスクが開発を停止したり、新しいグローバルなガバナンス構造によって発展を制限する理由にはならないと述べた。国際的な対話と技術協調は継続可能だが、これは国際機関が規則制定と規制を主導する「グローバルガバナンス」に進展してはならないという。この立場は、トランプ9月22日の国連総会での発言と一致している。米国は、AIを対象としたグローバルな制御システムの設立に反対しており、米国のAI競争優位を重要政策目標としている。

この対立は、双方が前線のリスクそのものに関して完全に対立しているわけではないことを示している。どちらもより強力なモデルが新たなリスクをもたらす可能性を認めている。真の対立点は、リスクを規制制度にどのように転換するか、そして国際機関がどの程度の調整・ガバナンス権を持つべきかである。企業側は、共通の能力テスト、リスク評価、事故報告の基準を構築することを重点にしている。一方、トランプ政権は、協力をもって独自の規制権または拘束力のあるグローバルなメカニズムになることを拒否している。注目すべきは、OpenAIが国際基準を呼んだとしても、それは米国が主導し、他の国が採用または相互承認する技術枠組みであり、規制権をグローバル機関に委譲するものではないということである。