ロイター通信の報道によると、マスクが所有するAI企業xAIは、南カロライナ州の男性テリー・ハワードに対して訴訟を提起し、彼がGrokを使って児童性的虐待資料を作成したと指摘しています。ハワードは2月に未成年者を性的に搾取した疑いで逮捕され、xAIは現地時間の火曜日にテキサス州の連邦裁判所に訴状を提出しました。

一般の人の写真をアップロードして深層偽造のポルノコンテンツを作成

訴状によると、xAIはハワードが成人および未成年者の一般的な写真をGrokにアップロードし、それらの人物を対象としたポルノのディープフェイクコンテンツを生成しようと試みたと指摘しています。また、本人の承諾なしにポルノ画像を作成したとも指摘されています。AI会社がユーザーに対してAIを使用してポルノコンテンツを作成したとして提訴するケースはこれまで非常に珍しく、この事件は画期的な意味を持っています。xAIは裁判所に未定の金額の賠償金を支払うよう求め、ハワードがGrokを使用することを永久に禁止するよう求めており、訴状では「被告は意図的に原告のツールを犯罪の武器に変えました」と述べています。

Grokのコンテンツの安全性問題が世界中で注目されており、244人が逮捕される結果に

訴状が提出されたタイミングで、xAIはGrokのコンテンツの安全性問題により世界中から注目を集めています。外部からは、Grokが利用者による当事者無許可のポルノのディープフェイクコンテンツ作成を許容していると指摘されています。訴状では、同社が2026年に52,222のアカウントを停止し、米国の失踪児童・虐待児童センターに73,604件の報告書を提出し、少なくとも244人が逮捕されたと明らかにしています。このデータはAIプラットフォームにおけるコンテンツセキュリティ管理の強化を示しており、AIによって生成されたコンテンツが悪用されている深刻な現実を浮き彫りにしています。