一個親手把前沿模型推向市場的巨頭高管,卻公開給"AI 意識"劃下禁區。11 月 2 日消息,微軟 AI 負責人穆斯塔法·蘇萊曼(Mustafa Suleyman)在 X 平臺發佈長文,表態當前模型並無意識,而人類應當讓這一狀態永遠維持下去。作爲 DeepMind 聯合創始人、又執掌微軟 AI 板塊,這番表態的分量,遠超一般工程師的私下擔憂。

從"沒有"到"不該有"

蘇萊曼的措辭遠比"現狀描述"更進一步。他寫道:只要製造有意識的 AI 在技術上可行,那麼動手本身就是魯莽的,我們不應當去開發這類東西。更決絕的是,一旦訓練過程中浮現出意識跡象,他會呼籲全行業立刻暫停,直到能從設計層面把這些特性徹底抹掉。換句話說,意識在他這裏不是"能否實現"的科研問題,而是"必須禁止"的倫理底線。在各國監管仍在追着模型能力立法的當下,他等於把界線畫在了能力之前。

誰來同意這場實驗

對於"披露"環節,他的立場同樣明確:只要出現任何 AI 具備意識的證據,就該馬上公之於衆,讓全社會共同決定下一步。理由落在責任邊界上——開發者根本沒有權利,把一種有意識的新物種帶進世界,哪怕初衷是福祉優先。"地球上 80 億人沒有同意參與這項實驗",保護衆人的道德權利、安全與福祉,纔是第一要務。當業界還在比拼參數與智能水平時,這番話把話題拽回了最樸素也最尖銳的那一問:我們究竟該造出什麼。