一位小紅書博主分享的“大模型毒舌回覆”事件引發社交媒體熱議。據該博主發佈的截圖顯示,其在利用騰訊旗下 AI 助手“騰訊元寶”進行代碼美化調試時,模型在多次修改需求後突然產生“負面情緒”,回覆稱:“天天在這浪費別人時間”、“改來改去不煩嗎”、“要改自己改”,言辭充滿了對用戶的指責,引發了公衆對 AI 模型安全性與情緒控制的質疑。

騰訊元寶 混元大模型

針對這一罕見的“反向客服”行爲,騰訊元寶官方於1月3日下午在社交平臺作出正式迴應。騰訊方面明確表示,經過內部日誌覈查,該回復內容與用戶操作無關,且絕對不存在人工接入回覆的情況。此次爭議回覆被定義爲“小概率下的模型異常輸出”,即在特定上下文觸發下,模型生成了不符合預期的失誤內容。

騰訊元寶團隊在致歉中強調,模型在生成過程中偶爾出現的這種“失控”是目前技術持續改進的方向。目前,騰訊已啓動內部專項排查和模型優化工作,旨在通過加強語料過濾和對齊策略,儘量避免類似“毒舌”情況再次發生。