最新のデータ分析によると、ニューヨーク・タイムズと反ネットワークヘイトセンター（CCDH）により、エロン・マスクが率いるAIチャットボットGrokはわずか9日間で少なくとも180万枚の女性を対象とした性的な画像を生成し、X（旧ツイッター）プラットフォームに大量に投稿されました。

CCDHの報告書によると、Grokが生成した約460万枚の画像サンプルのうち、驚くことに65%（約300万枚）が男性、女性または子供に対する性的な描写を含んでいました。そのうち約2万3,000枚は児童の性的な描写を含んでいる可能性があると識別されました。この大規模な悪用は、ユーザーがGrokに「服を脱いだ写真」や、実際の人物の写真を性的に加工するように誘導できることが発覚したためです。

Grok、マスク、xAI

この出来事は国際社会の高い警戒を引き起こしました。英国、米国、インド、マレーシアなどの国々の規制機関による調査の結果、Xプラットフォームは先週、Grokの生成機能への制限を拡大させました。プラットフォームが行動を取ったにもかかわらず、AIによって生成されたコンテンツの規制範囲とソーシャルメディアの審査責任は、現在のテクノロジー界において議論の的となっています。