OpenAI、Anthropic、グーグル、Metaなどの主要なAI企業の1,134名の従業員が最近、公開書簡に署名し、米国政府が国際協力を支持し、必要となる技術とガバナンスツールを開発することを呼びかけた。その目的は、必要に応じてAIの発展を「意識的にスローダウンする」ことである。OpenAIのCEOであるサム・オルトマン氏は、この提議を支持するという珍しい立場を取った。

この提議は「前線をコントロールする（Pacing the Frontier）」と呼ばれ、署名者はAnthropicのCEOであるダリオ・アモデイおよび共同創設者ジャック・クラーク、ジャリッド・カープラン、OpenAIの首席科学者ヤクブ・パホツキー、最高研究責任者マーク・チェン、Metaの首席科学者ジョー・ジョン・シャン、グーグルDeepMindのAIセーフティとアライメントの責任者アンカ・ドラガン、Thinking Machinesの首席科学者ジョン・シュルマンなどが含まれる。

image.png

公開書簡の核心的な懸念事項は「自動化されたAI開発」――つまり、AIシステムが自分自身でAIを開発・改善する能力であり、業界では「再帰的自己改善」と呼ばれている。Anthropicは以前から、Claudeシリーズモデルがこの境界に急速に近づいていると述べている。書簡には次のように記されている。「どれだけAIの進歩が加速するかを正確に予測することは難しいが、確かに現実的なリスクがある。つまり、AIの能力が、私たちがこれらのシステムを理解したり制御したりできる能力を迅速に超える可能性だ。」

OpenAIはXプラットフォームで反応した。「我々は、将来的には先端モデルの開発におけるAIの加速が非常に速く、世界がAIの進歩のスピードをコントロールする必要がある時が来るだろうと考えている。」一方、Anthropicは、「先月発表した再帰的自己改善に関する研究により、我们需要一些工具，能够有意识地调控 AI 发展的前沿速度，让社会有时间做好准备。」と述べた。

オルトマン氏の態度の変化は特に注目を集めた。過去には、AIの発展を遅らせる呼びかけに署名することを避けていた。2023年に類似する公開書簡が彼によって「どの側面で停止すべきなのかに関する重要な技術的詳細が欠如している」と批判された。しかし、『Invest Like the Best』ポッドキャストでの最近の発言では、「AIの発展のスピードをコントロールする必要があるかもしれない。そうすることで、社会が新しい能力レベルに適応し、防御メカニズムを構築する時間が得られるだろう。同時に、誰もが規制の取り込みだと感じたり、先端AIラボ間の共謀だと感じたりしないようにする方法を見つけなければならない。」と語っている。

現在、AI企業はますます強力なシステムを開発しており、外部からはAIの発展が現在のセキュリティ保障や治理体系、規制メカニズムの対応能力を超える恐れがあるとの懸念が高まっている。今回の連名書簡は、AI業界内部でも「無節制な加速」に対する不安が、端から中心へと移りつつあることを示している。