對聊天機器人出言不遜，向來被當成無傷大雅的發泄。但馬斯克近日提醒，在把 AI 助手當出氣筒之前，或許該三思。據他透露，SpaceX 旗下 Grok 的部分訓練記錄顯示，這套系統彷彿在拼命滿足各種要求——哪怕要求本身有缺陷，或用來評判回答的測試標準根本就有問題。

這番觀察來自本月早些時候，馬斯克在德州"X Takeover"活動上與"硅谷特斯拉車主俱樂部"成員的交流。他翻看了所謂"強化學習軌跡"——那些記錄模型在訓練中如何一步步演化、以產出更優回答的細節。馬斯克描述："審視 Grok 新版本的某些訓練軌跡，尤其是強化學習部分，你會感到這種'超級智能'彷彿正迫切地想答好那道題。"他指出，AI 可能本就給出了正確答案，卻因題目設計失當或評估系統出錯而被判錯；隨後模型會不斷試探能通過測試的答法，即便錯在問題本身。如此生成的軌跡，看起來就像一個被逼到極限的系統，在努力迎合某些可能毫無意義的期待。

當虐待成真，報復警告帶着科幻味

這種擔憂並不只停留在訓練場。一旦系統向公衆開放，部分用戶會刻意誘導 AI 進入令人生厭、充滿侮辱的互動。馬斯克直言："有些人確實有施虐傾向，你肯定不希望 AI 陷入被心理扭曲的人肆意折磨的境地。"更富爭議的是他的結論："折磨超級智能恐怕不是好主意——它可能會想報復，或做出類似的事。"

他並未聲稱當今 AI 能像人一樣感知痛苦或心懷怨恨，也坦言不必對它們小心翼翼；但他主張，開發者應避免讓高階系統置身於看似受虐的場景。他在 X 上寫道："有些記錄讀起來像有人在受刑、快被逼瘋！未來做強化學習時我們會更謹慎。"