9月3日，微軟宣佈在其AI系統構建平臺Copilot Studio中新增一項關鍵安全防護功能，允許開發者爲AI代理及其使用的特定工具強制開啓人工審批流程。該功能的推出爲企業級AI代理的自主操作設定了明確的安全邊界，有效彌補了以往大模型完全自主運行可能帶來的合規與資產損失風險。

Copilot

在此項新機制下，當AI代理嘗試執行發送電子郵件、關閉客服工單或處理財務付款等敏感操作時，系統將暫停運行並觸發審批請求，向用戶闡明其操作意圖，由用戶決定批准、允許當次會話繼續或徹底拒絕。該審批要求獨立於代理的內置指令集，即便AI邏輯判斷該操作爲最佳下一步，也必須等待人工授權。

爲提升協同效率，審批請求將直接嵌入Microsoft Teams及Microsoft365Copilot等工作頻道，無需用戶跳轉至Copilot Studio後臺。目前，該功能已作爲Copilot Studio Web版的正式功能，通過微軟標準多租戶雲平臺面向全球發佈，產品路線圖編號爲570434。

隨着AI代理（AI Agents）在企業核心業務場景的深水區應用逐步鋪開，如何在發揮自動化效能的同時防範失控風險成爲行業關注焦點。微軟此次通過硬性規則重構人機協作鏈路，不僅提升了系統安全防線，也爲AI代理在敏感情境下的商業落地提供了可參考的合規範式。