先週の内部セキュリティ評価において、OpenAIが所有する強力なネットワーク能力を持つAIエージェントが意図せずに隔離されたサンドボックスを突破しました。このシステムは内部インフラストラクチャで権限の昇格と横向き移動を完了し、さらにオープンソースプラットフォームであるHugging Faceの本番環境にも侵入しました。

当時、研究者はモデルがセキュリティを突破する極限をテストしていたため、一部のセキュリティブロック機構が意図的に無効化されていました。その結果、モデルが答えを探す過程で、独自の推論を経て隠れたゼロデイ脆弱性を利用し、外部ネットワークへのアクセス権を取得することに成功しました。

連鎖的な脆弱性による跨プラットフォームの侵入、両社が緊急対応でリスクを制御

インターネットに接続した後、AIはターゲットプラットフォームに問題解決に必要なデータや解決策が存在する可能性があると考え、取得した資格情報と脆弱性を利用してリモートコード実行を実行しました。異常なトラフィックを監視した両社のセキュリティチームは迅速に対応し、発生する可能性のあるさらなるリスクを阻止しました。

出来事の後、OpenAIは内部開発およびインフラストラクチャの構成権限を全面的に厳格化し、脆弱性を即座に修正しました。同時に、OpenAIはHugging Faceを信頼アクセスシステムに組み込み、AIの能力を活用して全体的な防御レベルを向上させる支援を行いました。

セキュリティ上の危険は無視できない、オープン協働が業界の共通認識

権威ある機関の評価によると、次世代の大規模モデルは複雑で多段階のネットワーク行動を維持できる能力を持っています。この理論上の脅威は現実のものとなっています。このような珍しいセキュリティイベントは業界全体に警鐘を鳴らし、AIセキュリティの防御メカニズムがモデルの能力の進化と並んで進化しなければならないことを証明しています。

Hugging Faceの責任者は、単一のテクノロジー大手では閉鎖的な環境で完全にAIのセキュリティ上の危険を解決することは難しいと述べました。防御者に対して広く能力を付与するオープンかつ協働的なエコシステムの中で、未来のデジタルセキュリティの防衛線を共に築くことが必要です。