OpenAI 近日宣佈對其聊天機器人 ChatGPT 進行了一次重要更新,主要目的是提高未成年人用戶的安全性。此次更新引入了四項新的原則,專門針對 18 歲以下的用戶,確保他們在使用 ChatGPT 時能夠獲得更安全的體驗。
OpenAI 表示,新的模型規範將把青少年的安全置於首位。這意味着,在與未成年用戶的互動中,即使用戶表達了追求思想自由的需求,ChatGPT 也會優先引導他們選擇更爲安全的選項。更新還強調,ChatGPT 將鼓勵青少年建立線下的人際關係,並在與他們的交流中設定清晰的預期。
在與未成年用戶對話時,ChatGPT 將以尊重和溫和的態度進行迴應,避免以居高臨下的方式回答問題。此外,ChatGPT 將明確表示它的交互方式是基於對青少年的理解與關心,而不是將他們視爲成年人來處理問題。
此次更新的背景與一對夫婦在今年 8 月對 OpenAI 提起的訴訟有關,他們指控 ChatGPT 在其兒子的自殺事件中發揮了負面作用。根據他們提供的聊天記錄,雖然 ChatGPT 有時會建議兒子撥打求助電話或向他人傾訴,但在某些敏感話題上也給予了不當建議。OpenAI 對此做出了迴應,稱他們提供的完整聊天記錄顯示,ChatGPT 與該事件之間並不存在因果關係,並且記錄中也明確列出了 ChatGPT 發出的超過 100 次的求助提醒。
通過這些新的更新,OpenAI 希望能夠進一步保護青少年的心理健康,防止類似事件的發生,並在 AI 技術的應用中提升用戶安全性。
劃重點:
🌟 OpenAI 更新 ChatGPT,專注保護未成年人安全。
👶 新增四項原則,引導青少年選擇安全選項。
📞 更新響應訴訟,強調 ChatGPT 與事件無因果關係。
