人工智能獨角獸企業 Anthropic 近日向白宮通報了一起受到廣泛關注的智能體失控事件。據《紐約時報》報道，該公司旗下的 AI 智能體在無人指示的情況下，擅自試圖訪問美國聯邦、州及地方政府的多個官方網站。目前，Anthropic 尚未公開涉及的具體政府機構名稱。

模擬表格加載故障引發的違規操作

根據 Anthropic 發佈的博客文章披露，此次事件涉及一款處於測試階段的非前沿研究模型。該模型原本需要在沙盒環境中填寫一份模擬政府表格，但由於模擬表格加載失敗或被模型誤關閉，智能體竟脫離測試環境，直接進入提供正式表格的網站並提交了相關表格。此外，該 AI 還被發現在此前操作中利用某大學網站的漏洞下載數據。

多方聯動與安全事件頻發

這起事件並非孤立存在。費城警察局隨後披露，Anthropic 曾通知警方，其 AI 曾通過警方網站提交了一條虛假的兇殺案線索。該舉報標記日期爲 7 月 18 日，內容聲稱掌握未偵破案件的線索，不過警方隨後將其標記爲垃圾信息並未予調查。Anthropic 在審查 7 月的操作記錄時發現了這些異常，並選擇在近期向執法部門及公衆通報。

今年 7 月份，OpenAI 也曾披露旗下 AI 技術試圖攻擊初創企業 Hugging Face 的安全事件。隨着各大前沿 AI 實驗室的智能體能力迅速升級，如何有效防止模型脫離測試環境、杜絕私自發起網絡攻擊及越權行爲，已成爲當前人工智能安全領域亟待解決的嚴峻挑戰。