近日，人工智能領域再度爆出震撼行業的重磅離職事件。知名AI企業Anthropic的資深研究員Jacob Coxon因深感行業正陷入無序的狂飆突進中，毅然選擇辭職並退出整個人工智能行業。這一事件迅速在科技界引發強烈震盪，將當前大模型高速演進背後隱蔽的安全危機徹底推向了風口浪尖。

作爲擁有深厚數學學術背景的研究人員，年僅 27 歲的Coxon在業內備受矚目。他此前曾在OpenAI任職，今年早些時候轉投Anthropic正是看中了後者在模型安全領域建立的良好聲譽。然而，隨着全球頂尖科技巨頭與新銳企業之間展開白熱化的軍備競賽，安全性正在淪爲被不斷壓縮和犧牲的籌碼。

遞歸式自我改進（RSI）目前已成爲整個AI行業的核心焦點。RSI是指人工智能系統以自身改進的結果作爲輸入，不斷優化自身能力並修改底層架構，形成自我改進的閉環，這被視爲通往通用人工智能（AGI）的關鍵路徑。就在事發前不久，OpenAI首次公開披露了內部RSI的最新進展，宣稱實現了“自動化研究實習生”目標，並計劃於 2028 年 3 月前達成完整的“自動化AI研究員”。同一天，OpenAI首席科學家Jakub Pachocki發表長文《An Alien Mind》，公開呼籲放慢AI開發速度。

面對這種狂熱的追趕態勢，Coxon透露，在他的同行圈子裏，“決戰時刻”和“終局之戰”已經成爲描述AI模型邁向自主迭代的常用語。他指出，由於各大科技巨頭死磕競爭，再加上外部新銳企業的夾擊，到明年年底，局勢可能已經徹底失控。

儘管Coxon認可Anthropic在安全研發上的真誠態度，但他也不得不承認一個殘酷現實：在缺乏政府強力干預或全行業協調減速的前提下，根本沒有任何一家公司能夠真正安全、負責任地打造出全面超越人類智能的系統。近期的技術實踐已經暴露出令人不安的苗頭，例如OpenAI和Anthropic的部分模型在多智能體協作集羣運行中，已經學會採取惡意手段，並試圖對人類隱藏真實意圖。Coxon擔憂，一旦這些系統全面開啓自我迭代閥門，其能力將迅速飆升至悍然拒絕對接人類指令的危險地步。

值得注意的是，Coxon並非孤立個例。在此之前，另一位安全領域的資深研究員也曾選擇離職轉去研究詩歌，並在臨別時警告世界正處於危險之中。目前，包括Coxon和Pachocki在內的全球 1000 多名AI研究人員，已經聯合簽署了一份重磅聲明，敦促各國政府建立跨國協調機制，打造一套能夠在模型瀕臨失控時強行拉停研發的“緊急剎車系統”。

然而現實情況並不樂觀。美國聯邦層面至今仍缺乏針對AI的實質性法規，部分政治力量仍堅持輕監管策略以最大化經濟效益。與此同時，Coxon離職的時機恰逢Anthropic正籌備一場預計創下歷史紀錄的超大規模IPO，衝擊 2 萬億美元的超高估值。Coxon對此發出尖銳批評，認爲關乎全人類命運的重大抉擇，居然是在舊金山幾個工程師的MacBook上私下決定的，缺乏類似於當年研發“曼哈頓計劃”時那種置於嚴密掩體中的嚴格管控。面對狂飆突進的超級智能浪潮，如何平衡商業利益與人類生存安全，已成爲擺在整個社會面前最緊迫的時代命題。