オンラインゲーム大手のRobloxは、最近画期的なAIチャットクリーニング機能をリリースしました。従来、ユーザーが規則に反する内容を送信した場合、システムは単純に「#」でブロックしていましたが、新しい機能では人工知能を使って、違反表現を礼儀正しく、合規な言葉にリアルタイムで書き換えることで、ユーザーの元の意図をできるだけ保持しています。

Roblox公式は、長い「#」の連続は会話の流れを乱し、ユーザーにとって混乱を招くことがあると説明しています。この新メカニズムにより、システムは単に「音声を消す」だけでなく、「文を整える」ようになります。例えば、以前は完全にブロックされていた不適切な表現「Hurry TF up!」は、今ではより中立的な「Hurry up!」に自動的に最適化されます。メッセージがAIによって編集されたとき、チャットウィンドウはすべての参加者に通知を表示し、コミュニケーションの透明性と親しみやすさを確保します。

コミュニケーションのつながりを向上させるだけでなく、Robloxはテキストフィルタリングシステムを大幅にアップグレードしました。新しいシステムは「ハッカー語（leetspeak）」やさまざまな変体回避方法の認識能力が優れ、誤検出率は約20倍も減少したとされています。現在、このリアルタイムでの書き換え機能は、プラットフォームの自動翻訳ツールでサポートされているすべての言語を対象としています。

今回の技術更新には深い背景があります。今年2月、Robloxは児童の安全に関する問題で複数の州の検事総長から訴えを受けていました。規制と世論の両方の圧力のもと、Robloxはこの「ソフトかつハードな」AI戦略を通じて、コミュニティの安全性の下限を守る一方で、数億人のユーザーのソーシャルプレイ体験を最適化しようとしています。

重要なポイント

  • 🤖 AIスマートクリーニング：違反ワードを自動的に規範的な表現に置き換え、従来の「#」によるブロックではなく、会話の論理を維持します。

  • 📉 誤検出率の急落：複雑な回避手段や特殊記号の識別能力が向上し、フィルタリングシステムの正確性が20倍向上しました。

  • 🛡️ セキュリティと体験のバランス：規制への対応と未成年者の安全を保障しながら、ソーシャルプロセスにおける妨げや摩擦を減らします。