據外媒 The Decoder 報道,哈佛大學心理學家史蒂文·平克公開表態,認爲"AI 會毀滅人類"這類風險被說得太誇張了。他在一封發表於 Quillette、寫給精神科醫生兼科技博主斯科特·亞歷山大的公開信裏,講清了自己的理由。
事情起因是亞歷山大向平克下戰書,邀他公開辯論 AI 帶來的生存性風險。平克婉拒了,說這種辯論不過是"供人圍觀的競技活動"。他尤其不認同"回形針最大化器"那類末日想象——即假設 AI 會爲生產更多回形針而犧牲全人類,還預設系統會瘋魔般只追一個目標——認爲這把"智能"和"支配欲"混爲一談。
魯莽發佈比末日更該警惕
平克過去對 AI 一向偏樂觀,但也坦言自己有兩處看走眼:一是沒料到大語言模型最終能強到這種地步,二是沒料到 AI 公司推出產品會如此冒進。頗具諷刺的是,把這場發佈競賽往前推的不少人,恰恰出自長期高喊風險的那個圈子。
他真正上心的是另外三類危險:生物恐怖主義、網絡攻擊,以及失去約束的 AI 智能體。平克寫道,一味渲染世界末日,對這些實實在在的威脅毫無幫助;管用的辦法是踏踏實實做審慎的安全工程,並把獨立監督、問責機制和對人的控制權放在底子上。
另一方仍給滅絕定 20% 概率
站在對面,亞歷山大今年 6 月也在個人博客亮明立場:他給"AI 導致人類滅絕"估了 20% 的概率,主張一邊改進 AI 安全研究,一邊通過國際協議給開發踩剎車。兩位同行的分歧,恰好映出業內圍繞"該怎麼認真對待風險"的拉扯——有人怕被嚇唬過頭反而誤事,有人則寧可把概率想高一點、早點設防。
VIP會員