『ビジネスインサイダー』の報道によると、OpenAI、Anthropic、グーグル、Metaなどの主要なAI企業に勤める1,100人以上の従業員が公開書簡に署名し、米国政府に対してAIの発展を制御するよう呼びかけた。この「先端をコントロールする」イニシアチブは、現在進行中のAI軍備競争におけるセキュリティとガバナンスの制度の遅れに直面している。公開書簡の焦点となる議題は、「自動化されたAI開発」である。つまり、将来のAIが自身でAIシステムを開発・改善できる「自己再帰的改善」能力のことである。Anthropicは、同社のClaudeシリーズがその境界線に急速に近づいていると述べている。書簡では、AIの能力の進歩が急速に加速し、それが人間がこれらのシステムを理解したりコントロールしたりする能力を超える可能性があると警告し、米国政府が国際協力を支持し、必要な技術とガバナンスツールを開発することを求めていた。

エグゼクティブたちによる一斉の後押し、オルトマンの態度の転換

この公開書簡に署名した人物は、AI業界の「スタークラス」とも言えるメンバーだった。AnthropicのCEOダリオ・アモデイと2人の共同創業者、OpenAIの首席科学者ヤクブ・パホツキー、Metaの首席科学者ジョー・ズー、そしてグーグルDeepMindのAI安全および整合性担当責任者アンカ・ドラガンが含まれていた。その後、OpenAIとAnthropicはXプラットフォームで反応し、前者は今後ある時点で最先端モデルの開発が世界にとってスピードアップしすぎる可能性があることを認め、後者は先月発表した自己再帰的改善に関する研究を引用し、社会が準備する時間が必要であることを強調した。

OpenAI CEOのサム・オルトマンの態度の転換は特に注目を集めた。彼は『Invest Like the Best』のポッドキャストでのインタビューで、「今こそAIの進展をコントロールする時かもしれない」と語り、社会が新しい能力レベルに適応し、保護メカニズムを構築する時間を与える必要があると述べた。