最近、有名な大規模モデル「DeepSeek」のウェブ版を使用するユーザーの間に、一時的な誤作動が発生しました。ユーザーがチャットボックスに入力した特定の特殊文字により、システムが関係ないテキストを勝手に読み込むことがありました。

これらの自動的に表示される回答は他のユーザーの質問のように見えるため、ネット上で「会話のプライバシーが漏洩している」という懸念が広まり、熱く議論されました。

image.png

公式側が幻覚と認定

ユーザーの懸念に対し、DeepSeekの公式チームは迅速に完全な調査を開始し、本日午前中に正式な異常な返答の説明を公開しました。公式側は明らかに、特定の特殊文字によって引き起こされた異常な内容は、特殊文字によって引き起こされるモデルの幻覚であると述べました。

技術チームはこのイベントがモデルが特定の記号を処理する際の認識のずれによって起こったものであり、絶対にセキュリティ問題には関与しておらず、ユーザーのプライバシーが漏洩することもないと強調しました。

特化したトレーニングで体験向上

この体験に影響を与えるバグを完全に解決するために、DeepSeekは今後、特化したトレーニングを通じてモデルの能力を全面的に強化する予定です。技術チームは、モデルが特殊文字を識別・処理するロジックを重点的に最適化し、関連する既知の問題をできるだけ早く修正します。

注目すべきは、DeepSeekが間もなく新しくなったV4プレビュー版の大規模モデルをリリースし、同時にオープンソース化したことです。このモデルは、百万文字を超える長いコンテキストを扱うことを特徴としています。最後に、公式側はユーザーの監視に感謝を述べ、ユーザーのデータの安全と使い心地を常に最も重要視すると約束しました。