より強力なAI能力を追求する一方で、モデルが自身の安全性を確保する方法は業界における中心的な課題となっています。最近、OpenAIは新しい自動化された赤チームテストモデルGPT-Redを公開しました。スケーラブルな自己対戦トレーニングを通じて、モデルが直接的なプロンプトインジェクション攻撃において失敗率を0.05%まで低下させることに成功し、AIの自己反復と安全性向上のための新たな道を開きました。

AIシステムがブラウザやローカルファイル、さまざまなAPIを通じて現実世界に深く接続されるにつれて、セキュリティの境界はますます脆弱になっています。従来の赤チームテストは有効ですが、人手に大きく依存しており、モデルの能力が指数関数的に増加するペースについていけず、防御を最適化する十分な対抗データを生成することもできません。OpenAIが今回発表したGPT-Redは、このボトルネックを打破するためのものです。これはモデルの欠陥を事前に正確に特定するだけでなく、リアルタイムで大規模な対抗サンプルを生成し、モデルがトレーニング段階で防御をアップグレードできるようにすることも可能です。

image.png

GPT-Redのトレーニングには自己対戦強化学習戦略が採用されています。トレーニング中、それは多様な防御モデルグループと頻繁に対戦し、プロンプトインジェクションや論理誘導などの攻撃手段を試してシステムの穴を探します。このような「互いに打ち合う」メカニズムにより、防御側は常に戦略を修正しなければならず、GPT-Redもその対戦の中でどんどん鋭くなりました。データによると、GPT-Redの攻撃能力はすでに人間の赤チームメンバーをはるかに超えており、特定のテストシナリオでは、人の攻撃成功率は13%にとどまる一方で、GPT-Redは84%に達しています。

このツールの実戦価値を検証するために、OpenAIはいくつかの厳しいストレステストを行いました。ある自律制御型自動販売機のAIエージェントを対象とした実験では、GPT-Redは商品価格の悪意ある変更や注文の盗難などの操作を成功裏にシミュレーションしました。この事例は、複雑なエージェントシステムにおいて、自動化された攻撃モデルが非常に強い浸透力を備えていることを明確に示しています。

現在、GPT-Redは生産モデルのトレーニングプロセスに統合されています。これにより、最新のGPT-5.6Solバージョンはプロンプトインジェクションに対して非常に高い耐性を示しています。実験結果によれば、このセキュリティの向上はモデルの汎用能力を損なうことなく、合法的な要求を盲目に拒否したり、タスクの実行効率を下げることもありません。

OpenAIは、GPT-Redの成功がAIセキュリティの「飛輪効果」の可能性を証明したと考えています。つまり、先進的なAIを利用してより安全な未来のシステムを構築することです。計算規模とデータの多様性が継続的に向上する中で、この自動化されたセキュリティテストフレームワークは、今後のモデル開発の標準となることが期待されます。これにより、モデルが進化し続ける過程で、常に堅固なセキュリティの防波堤を保つことができるようになります。