爲了進一步提升人工智能的安全防護能力,OpenAI於當地時間 5 月 7 日正式推出了一項名爲“可信聯繫人”的安全輔助功能。該功能的核心邏輯在於利用AI監測技術,爲處於心理危機中的用戶提供多一層“數字生命線”。
根據功能說明,當OpenAI的自動化監測系統及經過專業培訓的審覈團隊發現成年用戶在對話中表現出明確的自殘傾向,且研判該行爲可能演變爲嚴重的現實安全風險時,系統將主動向用戶預設的“可信聯繫人”發出提醒通知。這一舉措旨在通過及時的外部干預,彌補單純依靠機器對話在危機處理中的侷限性。
對此,相關聲明強調,“可信聯繫人”功能並非旨在替代專業的心理醫療護理或現有的緊急危機干預服務。其定位是作爲一種補充性的保障手段,爲深處困境的用戶搭建起與現實世界的溝通橋樑。
在實際運行中,ChatGPT依然會將引導用戶求助放在首位,鼓勵其在面臨壓力或極端情緒時,主動聯繫危機干預熱線或當地的緊急救援部門。
除了在安全領域持續發力,OpenAI近期在算力儲備與技術協議方面也動作頻頻。據悉,該公司預計今年將在計算資源上投入約 500 億美元,並聯合多家行業巨頭髮布了MRC開放網絡協議。這些動作表明,OpenAI在提升模型智能化與安全性的同時,正不惜重金強化底層算力集羣的運行效率,以支撐更超大規模的AI應用需求。
