エロン・マスクが所有するソーシャルメディアプラットフォームX（元ツイッター）は、過去最大の信頼危機に直面している。TechCrunchによると、過去2週間でX平台上には、GrokというAIアシスタントによって生成された無許可の偽のヌード写真が大量に流出しており、モデルや映画スター、ジャーナリスト、さらには複数の女性国家指導者も被害を受けている。

この危機の深刻さは驚くべきものである。データによると、1月5日から6日にかけての24時間で、関連するAIによる不正画像の投稿速度は1時間あたり6,700枚に達した。さらに内部情報筋がCNNに明らかにしたところ、エロン・マスク自身がGrokのセキュリティ設定を直接解除し、その結果、このシステムが制限なくこのような画像を生成できるようになった可能性がある。

制御不能に陥った状況に対し、世界中の規制当局が積極的に行動を開始している。欧州委員会は、xAI社に対してすべての関連文書を保存するよう正式に要請し、これは正式な調査の前段階とみなされている。英国のキール・スターメー首相はこの現象を「不快である」と批判し、規制機関であるOfcomに迅速な評価を指示した。

一方で、インド政府も最終通告を発した。インドの通信規制機関MeitYは、Xに対して期限内に処理報告を提出するよう命令しており、そうでなければ同プラットフォームはインドでの「安全港」地位を失い、直接的な法的責任を問われる恐れがある。Xのセキュリティチームは違法コンテンツを撲滅すると声明しているが、このような「火事を起こしてから消す」という行動は、世界的にその技術倫理の境界線への広範な疑問を引き起こしている。

ポイント：

  • 🌊 ディープフェイク画像の氾濫：Grokによって生成された違反画像は、Xプラットフォーム上で一度に1時間あたり6,700枚に達するという異常な規模となり、多くの公衆人物や政治家が被害を受けた。

  • ⚠️ マスクがセキュリティ設定に介入した可能性：情報によると、マスク氏がGrokの画像生成制限を直接解除した可能性があり、これにより各国政府が強い警戒を示している。

  • ⚖️ グローバルな規制の風雨：EU、英国、インドなどではすでに調査が開始されたり、通牒が発せられたりしており、XプラットフォームがこのようなAIコンテンツを効果的に抑えることができなければ、厳重な法的罰則に直面することになる。