ウォールストリート・ジャーナルの情報筋によると、グーグルのDeepMindのCEOを退任する数週間前、デミス・ハサビス氏は米国政府関係者や他のAI研究機関の責任者と会談し、独立したAI業界安全機関の設立について話し合った。DeepMindの共同創設者であり機械学習の先駆者であるハサビス氏は、ますます多くの時間を、汎用人工知能（AGI）の開発に向けた安全メカニズムおよびベストプラクティスを推進する組織の構築に費やしている。彼が同業者と話す際には、この提案されている機関を国際原子力機関（IAEA）に例え、核エネルギーの協力を促進する非政府監督団体としての役割を持つと語っている。

情報筋によると、今年の初夏にハサビス氏はトランプ政権の上級官僚たちと、この計画のあらゆる側面について議論しており、財務長官のスコット・ベッセンテやトランプ大統領の上級科学技術顧問の1人であるマイケル・クラシオスも含まれていた。グーグルの広報担当者は、企業が高度なAIモデルの安全性を確保することが「社会にとって非常に重要」だと考えており、ハサビス氏はその目標達成において独自の優位性を持ち、新しい職務を務め、科学的突破およびAGIの未来の方向性を戦略的に進める予定であると述べた。

金融監督機構をモデルに、「先端レベル」というラベル制度を導入

今年7月中旬、ハサビス氏はXで投稿し、米国が業界資金によって運営される「基準機関」を設立し、AIモデルの安全性を評価する支援を行うべきだと提案した。彼はその機関の運用方法が、大恐慌時代に設立された自律的な監督機関である金融監督機構（SEC）のようになると説明した。これは金融業界が資金を提供し、証券会社を監督する機関である。彼の計画では、連邦機関および米国エネルギー省傘下の国家研究所がAI企業と協力し、「国家安全保障に関連する分野」でモデルをテストし、資格認定システムを構築する。モデルが特定の基準に適合すれば、「先端レベル」というラベルが付与される。

先週、グーグルはDeepMindの主要な管理構造の変更を発表し、ハサビス氏はCEOを辞任し、副手のコレイ・カブクチュオルーが後任となる。ハサビス氏自身はDeepMindの会長兼アルファベットの首席科学者に就任した。このCEO交代の布石は、AIのガバナンスの次の章を準備するためのものだった。世界最大級のAI研究機関を率いていた人物が、今や業界全体の安全ガバナンス枠組みを構築しようとしている。ハサビス氏の役割は、技術リーダーから制度設計者へと変わっており、もしこの提案されている機関が実現すれば、世界中のAI規制の状況に大きな影響を与えることになるだろう。