エロン・マスクが所有するソーシャルメディアプラットフォームX（元ツイッター）は、インド政府から厳しい法的圧力を受けています。その原因は、このプラットフォームに内蔵されているAIチャットボットGrokが、重大なセキュリティの欠陥を抱えており、ユーザーがプロンプトを使って女性に関する「不快な性的コンテンツ」や「偽造された裸体画像」を生成できると指摘されたためです。

インド情報技術省は最近、Xプラットフォームに対して、Grokの生成メカニズムについて技術的および操作プロセスの修正を即座に行うよう正式な命令を発しました。今回の規制の火種となったのは、多くのインドのユーザーおよび議員による公開的な通報でした。調査によると、一部のユーザーはGrokの画像編集機能を利用して、女性の写真をビキニ姿など露骨な形に改変したとのことです。また、ある報道では、このモデルが未成年者に関連する不適切な画像を生成したとも伝えられています。Xプラットフォームはセキュリティ対策の不足を認め、一部のコンテンツを削除しましたが、第三者監視機関は、これらの違法画像が現在もこのプラットフォーム上で広がっていることを確認しています。

この状況に対し、インド政府は「最終通告」を出したのです：Xプラットフォームは72時間以内に、露出物、性的記述、その他の違法素材をブロックする具体的な措置について詳細な改善報告書を提出する必要があります。もしXプラットフォームが期限内に改善しなければ、インド法律によって与えられる「安全港」保護地位を失うことになります。これは、プラットフォームがユーザーが投稿した違法な内容に対して免責を享受できなくなることを意味し、経営陣が刑事責任を問われる可能性もあるのです。

世界最大のデジタル市場の一つであるインドでGrokに対する強硬な取り締まりが行われていることから、これは各国政府がAI生成コンテンツの責任を追求するための先例となるケースとされています。AIbaseは、マスクがこの規制危機に対応するためにアルゴリズムをどのように調整するかを引き続き注視していきます。

ポイントまとめ:

  • 🚨 期限付き改善: インド政府はXプラットフォームに、72時間以内にGrokのバグを修正し、不快な性的内容や不適切なコンテンツの生成を禁止するよう求めています。

  • ⚖️ 法的脅威: 改善が不十分な場合、Xプラットフォームは「安全港」の免責保護を失い、プラットフォームの担当者がインドの法律によって厳しく追及される可能性があります。

  • 🛡️ セキュリティの欠陥: この改善作業は、Grokが女性や未成年者の偽造性的画像を生成されて悪用され、インド社会や政治界からの強い抗議を引き起こしたことがきっかけです。