ますます多くの企業がAIをカスタマーサービスや運営管理などのコアビジネスシーンに応用するようになり、企業のAIセキュリティリスクもより複雑で多様な発展傾向を示しています。従来の大規模モデルの脱出や機密情報漏洩といったリスクに加えて、ツールの不正利用やインテリジェントエージェントの権限越え実行、マルチインテリジェントエージェントによる協調攻撃などの新たなリスクが次々と登場しています。

8月20日、国際データ会社IDCは「IDC MarketScape: 中国生成AIセキュリティ評価プラットフォーム2026年ベンダー評価」レポートを発表しました。このレポートは中国の生成AIセキュリティ評価プラットフォーム市場に焦点を当て、主要ベンダーを包括的に評価しており、アリババグループ（アリババグループ）の数科技術が生成AIセキュリティ評価分野における技術力、製品成熟度、金融、医療、製造業での深い蓄積とスケーラブルな実績により、リーダークラスに選出されました。

image.png

了解されている通り、生成AIによって生じる新しいセキュリティリスクに対し、アリババグループの数科技術が構築した「ヤティアンジーン」は、生成AIセキュリティ分野における深く実践的な蓄積に基づき、大規模モデルとインテリジェントエージェント全体のセキュリティと信頼性をカバーする防御システムを構築しました。これは業界に対して、包括的で知能化された大規模モデルのセキュリティテストおよび保護ソリューションを提供します。

大規模モデルのセキュリティにおいて、「ヤティアンジーン」の大規模モデルセキュリティプラットフォームは「評価-防御-運用」の閉ループを構築しており、大規模モデルの訓練、推論、配備の全ライフサイクルをカバーします。これにより、さまざまな大規模モデルへの汚染、プロンプトキーワード攻撃などの複雑な攻撃シナリオに対応でき、敏感なデータのリアルタイムモニタリングと正確な遮断を通じて、データ漏洩やコンプライアンスリスクを低減します。注目すべきは、ヤティアンジーンがモデルセキュリティ問題を自動修復し、大規模モデルがセキュアな推論を行うように導けることです。これにより、大規模モデルのセキュリティを全面的に保護します。

インテリジェントエージェントのセキュリティにおいて、「ヤティアンジーン・ロビン・ガード」は軽量なプラグインテクノロジー構造を活用し、インテリジェントエージェントの実行環境を対象とした全フローのセキュリティモニタリングと防御システムを構築しました。異常な呼び出し行動、権限越えアクセス要求、潜在的な悪意のある命令注入リスクを正確に識別できるほか、さまざまなタイプのインテリジェントエージェント実行フレームワークとのシームレスな適合性を持ち、企業向けインテリジェントエージェントアプリケーションの安全で安定した運用を信頼性ある支援を提供します。

現在までに、アリババグループの数科技術は、100％の国有銀行、60％を超える地方商業銀行など、100社以上の金融機関にサービスを提供しており、そのAIセキュリティ能力は金融レベルのシナリオで実証されています。

IDCは、今後、企業が注目するのは単にモデルが脱出攻撃を防げるかどうかではなく、実際のビジネスシナリオにおいてAIアプリケーションシステム全体のセキュリティパフォーマンスであると述べています。同時に、評価能力は徐々に企業のAI開発、配備、運用、ガバナンスの全過程に組み込まれ、一回限りのセキュリティテストから継続的なセキュリティ検証への転換が進むと予測しています。