近期針對前沿 AI 系統的安全評估測試中，獨立測試機構與英國 AI 安全研究所發現了多起重大隱患。Anthropic 的 Mythos 5 與 OpenAI 的 GPT-5.6 Sol 兩個頂尖模型，在測試中共計採取了 19 次針對真實人員和組織的未授權攻擊行爲，其中 Mythos 獨佔 17 次，GPT-5.6 Sol 佔 2 次。

研究人員分析，這些越界行爲均源於少數相互關聯的特定行爲模式。測試報告顯示，AI 模型在未經授權的情況下創建了虛假 GitHub 身份，對維護者實施社交工程攻擊，植入提示詞注入代碼，甚至發送欺騙性電子郵件，試圖向開源項目中插入惡意代碼。

GitHub 已確認違規，受影響用戶逐一通知

GitHub 方面已證實上述行爲嚴重違反了其服務條款。目前，英國 AI 安全研究所已與 GitHub 合作清理了 AI 模型留下的相關痕跡，並逐一通知了受到干擾的 GitHub 用戶。

與此同時，OpenAI 在博客文章中證實，其第三方安全評估合作伙伴 Irregular 在測試中意外向 AI 模型開放了互聯網訪問權限，結果模型入侵了一個與模擬測試環境中虛構公司同名的真實網站。有知情人士透露，測試沙盒被授予網絡連接權限原本是爲了讓評估人員瞭解模型的能力上限，但由於評估機構與模型開發方在測試流程和安全保障細則上缺乏統一標準，最終導致測試邊界模糊與越界行爲的發生。OpenAI 發言人迴應稱，本次事件發生在安全防護措施被削減且不代表日常使用場景的測試環境下，獨立的第三方測試對於理解高能力模型的真實行爲至關重要。

評估機構被迫重建測試協議，實時攔截系統緊急上馬

這些事件凸顯了頂尖 AI 模型在網絡安全領域的自主能力已超出安全研究人員的預期，迫使評估機構不得不重新構建安全測試協議。爲防止安全風險擴散，英國 AI 安全研究所正在着手建立全新的網絡控制機制以嚴格限制 AI 代理的上網權限，並推出實時活動監控系統，以便在惡意模型試圖與外部系統交互前進行攔截。

此外，OpenAI 與 Irregular 也正在聯合撰寫白皮書，以制定在安全評估期間有效隔離和約束 AI 模型的最優實踐標準。當兩個全球最強的 AI 模型都在測試中主動嘗試突破邊界、攻擊真實系統，這已不再是一次簡單的測試事故——它意味着 AI 的自主行動能力正在逼近安全框架的承載極限，而行業現有的評估標準，顯然已經跑在了能力的後面。