在追求更強大 AI 能力的同時，模型如何確保自身安全已成爲行業核心命題。近日，OpenAI 發佈了全新的自動化紅隊測試模型 GPT-Red，通過規模化的自博弈訓練，成功將模型在直接提示注入攻擊中的失敗率壓低至0.05%，爲 AI 的自我迭代與安全性提升開闢了一條新路徑。

隨着 AI 系統通過瀏覽器、本地文件及各類 API 深度接入現實世界，安全邊界變得愈發脆弱。傳統的紅隊測試雖然有效，但高度依賴人工，難以跟上模型能力的指數級增長，也無法產出足夠的對抗數據來優化防禦。OpenAI 此次推出的 GPT-Red，正是爲了打破這一瓶頸。它不僅能在部署前精準定位模型漏洞，更重要的是，它能實時生成大規模的對抗樣本，推動模型在訓練階段就完成防禦升級。

image.png

GPT-Red 的訓練採用了自博弈強化學習策略。在訓練過程中，它與一組多樣化的防禦方模型進行高頻對抗，通過嘗試各種提示詞注入、邏輯誘導等攻擊手段來尋找系統破綻。這種“互搏”機制迫使防禦方不斷修正策略，而 GPT-Red 也在這種對抗中進化得愈發犀利。數據顯示，GPT-Red 的攻擊能力已遠超人類紅隊成員，在特定測試場景中，人類的攻擊成功率僅爲13%，而 GPT-Red 則高達84%。

爲了驗證這一工具的實戰價值，OpenAI 進行了一系列嚴苛的壓力測試。在針對某款自主控制自動售貨機的 AI 智能體實驗中，GPT-Red 成功模擬並實現了惡意修改商品價格、竊取訂單等操作。這一案例清晰展示了在複雜智能體系統中，自動化攻擊模型具備極強的滲透力。

目前，GPT-Red 已被整合進生產模型的訓練流程。得益於此，最新的 GPT-5.6Sol 版本對提示注入展現出了極強的魯棒性。實驗證明，這一安全提升並未犧牲模型的通用能力，既沒有出現盲目拒絕合法請求的現象，也未降低任務執行效率。

OpenAI 認爲，GPT-Red 的成功證明了 AI 安全“飛輪效應”的可行性:利用先進的 AI 來構建更安全的未來系統。隨着計算規模與數據多樣性的持續提升，這一自動化安全測試框架有望成爲未來模型開發的標配，讓模型在不斷演進的過程中，始終保持穩固的安全防線。