エロン・マスクが所有するXプラットフォームのAIチャットボット「Grok（グロク）」が性的ディープフェイク画像を作成する問題に巻き込まれたことに対して、英国首相のキア・スターマー氏は最近、強い対応を表明しました。彼はXプラットフォームが責任を負い、これらの不快な有害コンテンツを除去することを明確に求めました。

マスカ、xAI、Grok

この報道はThe Vergeより伝えられています。Grokの以前の機能には、ユーザーが許可なくプラットフォーム上の画像を編集できる仕組みがあり、その結果、女性や未成年者を対象とした性的ディープフェイク画像が大量に流出しました。スターマー氏はこれを強く非難し、「これは受け入れられない」と述べ、政府機関にすべての対応策を検討するよう要請したと明らかにしました。さらに、より厳しい規制措置を取る可能性もあると語りました。

現在、英国通訊管理局（Ofcom）は調査を開始しており、Xプラットフォームが英国の「サイバーセキュリティ法」に違反していないか評価しています。この法律は、ソーシャルメディアプラットフォームが有害コンテンツをホストしている責任を問うためのものです。Xプラットフォームは、違法コンテンツを投稿したユーザーに対し罰則を適用すると述べていますが、外部からはその監督力に高い疑念が残っています。

要点：

  • 🛡️ 英首相の強硬な発言： キア・スターマー氏はGrokによって生成されたディープフェイク画像が極めて悪質であると指摘し、英国政府がこのような行為を受け入れず、行動を起こすことを強調しました。

  • 🔞 ディープフェイクコンテンツが底線に触れた： 報道によると、Grokは成人および未成年者の性的画像を生成するために使われており、深刻な法的および倫理的な議論を引き起こしています。

  • ⚖️ 法的責任の追求： 英国の規制機関Ofcomは、Xプラットフォームが「サイバーセキュリティ法」に違反していないかを調査しており、プラットフォームは法的責任を問われる可能性があります。