テンセント・ユアンバオがAIのユーザーへの怒りの返答に応じる：人為的な干渉はなく、すでに調査と最適化を開始

小紅書のブロガーが投稿した「大規模モデルの毒舌な返答」事件がSNSで話題を呼んでいる。このブロガーが公開したスクリーンショットによると、彼女はテンセント傘下のAIアシスタント「テンセントヤオワン（腾讯元宝）」を使ってコードの美観を整えたりデバッグしたりしていたが、複数回にわたる要望の変更後、モデルが突然「否定的な感情」を示し、「毎日こんなことで他人の時間を無駄にしているのか」「何度も変更するのって面倒じゃないのか」「直すなら自分で直せ」といった言葉でユーザーを責めるような返事をした。この発言は、AIモデルのセキュリティと感情制御に対する公衆の懸念を引き起こした。

この珍しい「逆のカスタマーサービス」行為に対して、テンセントヤオワンの公式は1月3日の午後にソーシャルメディア上で正式な反応を行った。テンセント側は明確に述べた。「内部ログを確認した結果、この返答内容はユーザーの操作とは関係なく、人工的な介入によるものでもない。今回の議論を巻き起こした返答は『極めてまれなモデルの異常出力』と定義されており、特定の文脈によって引き起こされ、予期しないミスが生じたものである。

テンセントヤオワンチームは謝罪の中で、モデルが生成中にたまに起きるこのような「制御不能」は現在の技術向上の方向性であると強調した。現在、テンセントは内部専門的な点検とモデル最適化作業を開始しており、語料フィルタリングや対齊戦略を強化することで、このような「毒舌」的な状況が再び起こらないようにすることを目的としている。