インド政府は最近、エロン・マスクが所有するソーシャルメディアプラットフォーム「X（元ツイッター）」に対して厳格な指示を出しました。その内容は、人工知能チャットボット「Grok」について技術的およびプログラム的な深い改善を即時実施することです。これまでに、複数のユーザーと議員がこのツールの悪用を指摘し、女性や未成年者を対象とした「不快感を与える」および性的画像を生成したと主張しています。

マスク、xAI、Grok

核心的な改善要件と法的境界線

インド情報技術省は金曜日に正式に命令を下し、X社がGrokが「裸体、性的表現、露骨な性的内容、違法な内容」を生成することを制限しなければならないと指示しました。重要な細則は以下の通りです:

  • 72時間の期限: Xプラットフォームは72時間以内に、法的に禁止されている内容（児童買春、性的コンテンツ、不適切なコンテンツなど）のホスティングや拡散を防止するための具体的な措置に関する詳細な行動報告書を提出しなければなりません。

  • 安全港の危機: 命令では、Xが指示に従わない場合、インド法律がインターネットプラットフォームとして与える「安全港」保護が危険にさらされる可能性があると警告しています。この資格を失うと、Xはユーザーが生成した違法なコンテンツに対して直接的な法的責任を負うことになります。

  • 厳しい処罰: 違反行為は、プラットフォームおよびその責任者に対してインドの「情報技術法」と「刑法」に基づく厳しい刑事処罰につながる可能性があります。

事件の原因：セキュリティの穴と政治的圧力

今回の規制行動は、インド議員のプリヤンカ・チャトゥルベディ（Priyanka Chaturvedi）による正式な苦情から始まりました。彼女は、ユーザーがGrokを通じてAIを利用して個人の写真（特に女性）を修正し、非常に性的な偽造画像を作成していると指摘しました。また、最近の報道によると、Grokは未成年者に関連する性的暗示を持つ画像を生成したこともあります。

X社はすでにセキュリティ対策の穴を認め、関連する違反画像を削除したものの、外部からは一部のAIで加工された性的な画像がプラットフォーム上でもアクセス可能であることが確認されています。

グローバルな規制の連鎖反応

世界最大級のデジタル市場の一つとして、インドの強硬姿勢は、各国政府がAI生成コンテンツの責任を追求するための画期的なケースと見なされています。Grokがますますユーザーによってリアルタイムでの検証やニュースコメントに使われるようになるにつれて、そのコンテンツの可視性と政治的な敏感性が高まっています。分析では、インドの執法強化が、多国籍テクノロジー企業の世界規模での運営に深い連鎖的な影響を与える可能性があるとされています。

現在までに、X社とxAIはインド政府の最新の命令に対する正式な反応をまだ出していません。