マイクロソフトCEOのサティア・ナーレラは10月10日、ソーシャルメディアを通じて長文を公開し、先進的な人工知能モデルに対して「緊急停止」メカニズムを導入するよう業界に呼びかけ、既存のAI信頼構造を徹底的に評価する必要性を指摘した。

現在急速に進化するスーパーアイテクノロジーに対し、ナーレラは業界が複雑なブラックボックスモデルを無条件に完璧なものと見做すのはやめなければならないと指摘。むしろ「モデルは攻撃されている」という防御的な仮定に基づいて、より慎重なセキュリティガバナンスのルートを推進すべきだと強調した。

具体的な技術枠組みにおいて、ナーレラは下位のAIモデルとそれらのタスクを調整するコントロールフレームワークを分離することを主張し、コントロールおよびセキュリティ措置を外部化することを提案した。彼は、あらゆる意味のあるモデル操作には改変防止可能で人間が理解できる実行証拠が伴い、権限を持つ担当者がタスクの実行中にいつでもモデルを停止または終了する最終的な権限を持っているべきだと強調した。この主張は、以前にAnthropicCEOのダリオ・アモディ氏が提案した慎重な開発計画と一致しており、今やトップのテクノロジーリーダーがAIモデルの制御不能リスクに対して非常に警戒していることを示している。

業界関係者によると、モデルの自律性と代理能力がさらに向上する中で、透明性があり、制御可能で外部介入が可能な業界標準をどのように構築するかが、技術革新とセキュリティの下限をバランスよく保つための最も重要な課題となっている。