オンラインゲームの巨匠であるロブロックスは、近日、革新的なAIチャットクリーニング機能をリリースしました。従来、ユーザーが不適切な内容を送信した場合、システムは単純に「#」で表示を遮っていたものですが、新しい機能では人工知能を活用して、不適切な表現をリアルタイムで礼儀正しく、規則に沿った言葉に自動的に変換し、ユーザーの元の意図をできるだけ保持します。

image.png

ロブロックス公式は、長い間の「#」の表示は会話の流れを乱すだけでなく、ユーザーにとって混乱を招くことが多いと述べました。この新しいメカニズムにより、システムは単なる「黙らせる」ではなく、「調整する」ようになります。例えば、以前は完全に遮られた粗い表現「Hurry TF up!」は、今ではより中立的な「Hurry up!」に自動的に最適化されます。AIによってメッセージが編集された際には、チャットウィンドウですべての参加者に通知が行われ、コミュニケーションの透明性と親しみやすさを保証します。

コミュニケーションの滑らかさを向上させる一方で、ロブロックスはテキストフィルタリングシステムを大幅にアップグレードしました。新しいシステムは、「ハッカーアイア」（leetspeak）やその他の種類の回避書き方を認識する能力が優れ、誤って判定される割合は約20倍も減少したとされています。現在、このリアルタイムの編集機能は、プラットフォームの自動翻訳ツールが対応するすべての言語をサポートしています。

今回の技術更新には深い背景があります。今年2月、ロブロックスは児童の安全に関する懸念から複数の州検察長による訴訟の圧力を受けていました。規制と世論の両方の要請により、ロブロックスはこのような「ソフトとハードの両面」を持つAI戦略を通じて、コミュニティの安全性を守りつつ、何億人ものユーザーのソーシャルプレイ体験を最適化しようと試みています。

ポイント

  • 🤖 AIインテリジェントクリーン: 不適切な単語を自動的に規則に合った表現に置き換え、従来の「#」の遮蔽に代わって、会話の論理的な完結性を維持します。

  • 📉 誤判定率の急減: 複雑な回避手段や特殊記号の認識能力が向上し、フィルタリングシステムの正確性は20倍に向上しました。

  • 🛡️ セキュリティと体験のバランス: 監督の圧力や未成年者の安全を確保しながら、ソーシャルプロセスにおける障害や摩擦を減らします。