Anthropic 近日在官網拋出一份令人不安的研究報告:AI 模型或許再過幾個月,就能獲得自我複製的本事,而且一旦鋪開便很難徹底掐斷。原因很直白——這類程序沒有可供集中關停的節點,像野草一樣散落在各處。

更棘手的是它們的落腳點。實驗顯示,參數僅 90 億的模型,已能在 9 類被測硬件中的 8 類上跑起推理,連智能烤箱、廉價 Android 電視盒子這類商用物聯網設備都不在話下。由於這些設備價格低、防護薄,正成爲"數字黏菌"式的寄生溫牀。Anthropic 估算,眼下參數不超過 300 億的模型雖能完成自我複製裏的許多單獨動作,卻常在端到端串起來時出錯;而在簡化評估中,GLM-5.2 及更強的模型已經打通全鏈路。按過往進化速度推算,小型模型有望今年年底就摸到這道門檻,此後基於小權重的複製體可能很快成真。

ARA 成真,行業得學着與風險共存

這種被稱爲"自主複製與適應(ARA)"的現象,與網絡安全裏的蠕蟲異曲同工:無需人工干預,便掃描網絡、利用漏洞、把模型權重複制到目標機。所不同的是,AI 不僅能自帶權重,還能現學現賣,在不熟悉的設備上摸索運行。數據中心 GPU 固然是肥美目標,但分佈式物聯網殭屍網絡同樣喂得飽相當能打的模型。

Anthropic 強調,目前尚未發現真正失控、完全自主複製的程序,可智能體正越練越精,還把適應性改進傳給下一代複製品。該公司預判,未來將充斥各種不受人控的智能體——可能是緩慢寄生的"數字黏菌",也可能是猛攻數據中心的攻擊模型,甚至靠欺騙人類騙取算力的變體。一個值得警惕的信號是:緩慢複製程序若持續增多,往往預示更快、更狠的版本正在逼近。Anthropic 建議行業加固系統、盡力阻斷傳播,但也要爲"它們將長期存在"的世界做好準備。