9月3日、マイクロソフトはAIシステム構築プラットフォーム「Copilot Studio」に、開発者向けの新たな重要なセキュリティ機能を追加しました。この機能により、開発者はAIエージェントおよびその使用する特定のツールに対して、人工による承認プロセスを強制的に適用できるようになります。この機能の導入により、企業向けAIエージェントの自律的な動作に明確なセキュリティの境界が設けられ、従来の大規模モデルが完全に自律的に動作することによって生じる可能性のあるコンプライアンスや資産損失のリスクを効果的に補完します。

Copilot

この新しいメカニズムでは、AIエージェントがメールの送信、カスタマーサービスチケットの終了、財務決済などのセンシティブな操作を試みる場合、システムは実行を一時停止し、承認リクエストをトリガーして、ユーザーにその操作の意図を説明し、ユーザーが承認、今回のセッションを継続する許可、または完全に拒否する選択をすることができます。この承認要件は、エージェントの組み込み命令セットとは独立しており、AIの論理がその操作を最適な次のステップと判断しても、人間の承認を待つ必要があります。

協働効率を向上させるために、承認リクエストはMicrosoft TeamsやMicrosoft365 Copilotなどの作業チャネルに直接埋め込まれ、ユーザーがCopilot Studioのバックエンドに移動する必要はありません。現在、この機能はCopilot Studio Web版として正式な機能として提供されており、マイクロソフトの標準的なマルチテナントクラウドプラットフォームを通じて世界中で公開されています。製品ロードマップ番号は570434です。

AIエージェント（AI Agents）が企業のコアビジネスシナリオにおける深い領域での応用が進むにつれて、自動化の効率を発揮しながらも、制御不能のリスクを防ぐことが業界の注目焦点となっています。マイクロソフトは今回のハードルの高いルールで、人間と機械の協働フローを再構築し、システムのセキュリティ防御力を高めるだけでなく、AIエージェントが敏感な状況下で商業的に展開されるための参考となるコンプライアンスの形態を提供しています。