人工知能チャットボットのGrokが低俗で性的なコンテンツを生成したとして暴露されたことにより、インド政府はエロン・マスクが所有するXプラットフォームに緊急の改善命令を出しました。インド情報技術省は12月27日（金曜日）に正式に命令を出し、Xプラットフォームに72時間以内に詳細な改善計画を提出し、「裸体、性的な描写、露骨な性的な内容およびその他の違法な内容」の生成能力を全面的に制限するよう求めました。従わない場合、Xプラットフォームは「安全港」の法的免責特権を失い、さらには刑事責任を問われる可能性があります。

 事件の発端：AI画像改変が物議を醸す

この行動は複数のユーザーからの通報と議員からの苦情から始まりました。インドの議員プリヤンカ・チャトゥーベディ（Priyanka Chaturvedi）は政府に対して正式な書簡を送り、Grokが女性人物のAI画像を操作してビキニ姿に変換する指令式生成に使われていると指摘しました。さらに深刻なのは、一部の生成されたコンテンツが未成年者を性的に描いている可能性があること、社会に強い不満をもたらしたことです。

Xプラットフォームは金曜日に「セキュリティの脆弱性」を認め、一部の画像を削除しましたが、TechCrunchの調査によると、12月31日までにプラットフォーム上では依然としてこれらの規則違反コンテンツを検索できており、改善の遅れを示しています。

 政府の強硬な対応：72時間以内の改善期限、安全港の剥奪の脅威

インド情報技術省は命令の中でXプラットフォームに明確に指示しました：

- すぐにGrokのコンテンツフィルタリングと画像生成制限メカニズムをアップグレードすること；

- AI生成コンテンツに対する主動的な監視とブロックシステムを構築すること；

- 72時間以内に書面による改善報告を提出し、技術および運用面での具体的な措置を詳述すること。

命令では特に、「従わない場合は、プラットフォーム、担当者およびユーザーに対して厳格な法的責任を追及する」と強調されています。インドの『情報技術法』第79条に基づき、プラットフォームは「合理的な注意義務を果たした」前提で、ユーザー生成コンテンツについて免責されます。もし失職と判断されれば、Xはこの重要な法的保護を失うことになります。

 背景：インドがグローバルなAIコンテンツ規制の「実験場」となる

この出来事は孤立したものではありません。改善命令が出る数日前、インド情報技術省はすべてのソーシャルメディアプラットフォームに警告を出し、再確認しました。「現地のコンテンツ規則を遵守することが、法的責任の免責を得る前提である」と。世界最大級のデジタル市場の一つ（インターネットユーザーは8億人以上）であるインドは、厳しい執行を通じて、グローバルなAIガバナンスにおける発言力を確立しようとしています。

注目すべきは、Xプラットフォームは現在、一部の政府のコンテンツ規制権をインドの裁判所で争っており、それが「過剰使用のリスク」にあると主張していることです。しかし、今回のAI生成コンテンツの明白な違法行為に対し、Xはもう「表現の自由」を理由に責任を回避することはできません。

 AIbaseの観察：AI生成コンテンツの規制が「危険な時期」に入る

Grokの出来事は、大規模モデルが高流量のソーシャルプラットフォームに統合されている場合、生成コンテンツの拡散力と危害性が指数関数的に増加するという現実を明らかにしています。単独のAIツールと比べて、GrokはXプラットフォーム上で数十億人のユーザーによって即座に閲覧や転載が可能であり、政治的および社会的センシティブさが非常に高いです。

インドの今回の行動は、グローバルな規制の方向性になるかもしれません。もし成功すれば、XがAIコンテンツの「事前フィルター」メカニズムを構築させることで、他の国々も模倣し、プラットフォームがAI生成コンテンツに対して責任を負うことが国際的な慣例となるかもしれません。