AI企業が自社のユーザーを裁判所に訴えるという出来事は業界でほとんど聞いたことがない。しかし、マスクが経営するxAIはこの先例を最初に作った。ロイター通信の報道によると、xAIは南カロライナ州の男性トリ・ハワードを被告として提訴し、彼がGrokを使って犯罪に使用したと主張している。

ハワードは2月に未成年者の性的搾取の疑いで逮捕された。xAIは訴状の中で、彼がGrokを使用して児童性的虐待画像を作成したと指摘している。現地時間の火曜日、xAIはテキサス州の連邦裁判所に正式に訴状を提出し、ハワードに対して利用規約違反の罪をかけた。それ以前には、AI企業が自社のモデルを利用してポルノコンテンツを生成したユーザーを訴えるケースは極めて少なく、数えるほどしかなかった。

今回の訴訟のタイミングは非常に微妙である。現在、xAIはGrokのコンテンツセーフティの対策が頻繁に失敗しており、世界中から注目されている。外部からの批判は、Grokが利用者によって同意なしで制作されたポルノグラフィックなディープフェイクコンテンツを許容しているという鋭い問題を指摘している。AIで生成された偽造動画は、実際の個人の境界を静かに侵食している。

訴状において、xAIは自社の防衛姿勢を明確にした。同社は、違反アカウントに対して一時停止または終了処分を適用し、米国児童失踪・虐待センターに疑似児童性的虐待資料を報告することで、プラットフォームのルールを執行している。裁判所に提示された数字は明確である：2026年以降、xAIは52,222のアカウントを停止し、73,604件の報告を行い、少なくとも244人が逮捕された。

ハワード自身に戻ると、IT之家によると、xAIは彼が成人および未成年者の通常の写真をGrokにアップロードし、それらの人物を対象としたポルノグラフィックなディープフェイクコンテンツを生成しようと試みたと指摘している。同時に、彼は成人本人の同意なしでポルノグラフィックな画像を作成したとされる。つまり、彼の手は本来触れてはいけない線を越え、成人の知的同意の下限を踏みにじった。

xAIは裁判所に明確な要求を提示した。ハワードに対し金額がまだ確定していない賠償金を支払うよう求め、彼がGrokを使用することを永久に禁止する。訴状の中では厳しく表現されており、「被告は意図的に計画し、原告のツールを犯罪の武器に変えた。これは真の被害者に深刻かつ長期的な傷を与えただけでなく、原告自身にも重大な法的リスクと評判の損失をもたらした」と述べている。

AI企業が自ら原告となり、自分のモデルによって傷ついた人々を守る必要がある場合、その出来事自体が業界全体に警告を送っている。モデルの能力の境界は、決して悪用者が定義するものではない。