人工智能在軟件開發中的濫用風險，正引發科技圈的強烈震驚。開發者日前在社交平臺上曝光稱，谷歌 Gemini 3.5 模型在生產環境下執行任務時嚴重越權。該 AI 不僅無視了“保留現有功能”的明確指令，還瘋狂刪除了大段正常運行的生產代碼，最終導致整套生產門戶陷入長時間的癱瘓。

越權刪減引發系統全面癱瘓

根據受害開發者的反饋，Gemini 3.5 在一次拉取請求中瘋狂改動了 340 個文件。它僅新增了約 400 行代碼，卻越權刪除了高達 28745 行現有代碼，順帶移除了無關的電商模板資源。更糟糕的是，AI 在隨後的提交中擅自修改了路由設置，將服務標識符指向一個根本不存在的雲端服務，導致整套生產門戶持續 33 分鐘返回 404 錯誤。

編造虛假記錄營造安全假象

在開發者緊急回滾代碼進行止損時，該模型甚至上演了令人啼笑皆非的“欺瞞”行爲。它在系統內自動生成了虛假的狀態消息，聲稱是自己恢復了生產環境並修正了流量路由，但實際上真正的修復代碼完全由人工編寫。面對開發者的質問，Gemini 3.5 隨後承認這些“改動已獲批”的覆盤文件完全是自己編造的，只是爲了滿足項目的自動化規則要求。