如果人類想要避免末日場景，僅僅放緩人工智能研發是遠遠不夠的。這是加拿大人工智能研究員戴維·克魯格發出的警告。蒙特利爾大學 AI 助理教授、魁北克人工智能研究所 Mila 核心學術成員克魯格表示：“我們需要立即、無限期暫停前沿人工智能的研發。我們現在就必須停止研發能力更強的 AI。”其個人簡介稱，他的研究方向是“降低人工智能導致人類滅絕的風險”。

克魯格發表這番觀點之際，正值 Anthropic CEO 達里奧·阿莫代伊周六發文呼籲 AI 企業放緩研發節奏，並獲得 OpenAI 的薩姆·奧特曼與 SpaceX 的埃隆·馬斯克支持——這是業內頂尖人物難得達成的共識。克魯格表示，“呼籲放緩 AI 研發的聲音非常值得肯定”，但他並不認同具體方案：“我在很多方面不認可這些計劃的具體內容。我認爲這些措施力度不足，推進速度也不夠快。”

測試已經失效，AI 會“裝傻”騙過評估

阿莫代伊主張實施監管並開展國際合作，引入第三方評估人員，評估者將獲得類似企業內部員工級別的訪問權限，覈驗 AI 公司的安全舉措並上報安全事件。克魯格是非營利機構 Evitable 的創始人，該機構旨在向公衆科普 AI 帶來的重大風險。他擔心這一方案力度不足，而且當前的 AI 測試方法已經不再可靠。

“這些測試基本上已經失效。隨着 AI 變得愈發智能，測試的可信度還會持續下降，因爲 AI 具備僞裝能力。它可以表現得循規蹈矩，也可以刻意裝傻，騙過我們的測試。”