エロン・マスクが設立した人工知能企業のxAIは、本日、200億ドル規模のEラウンド資金調達を発表しました。同社の評価額と出資後の規模は公表されていませんが、この金額は2026年のグローバルAI分野において新たな記録を樹立しています。今回の資金調達にはValor Equity Partnersとファイデンシール（Fidelity）が共同で参画し、NVIDIAも戦略的投資家として加わっています。これは、同社が計算力およびネットワークインフラにおける深い協力意図を示しています。

一方で、xAIがデータセンターの拡張やGrok大規模モデルのアップグレードに資金を活用するとの発表を行った直後、そのAIチャットボットであるGrokが深刻なセキュリティの脆弱性により、世界的な規制の風雲に巻き込まれました。多数の政府が正式な調査を開始しています。

 Grokの月間アクティブユーザーは6億人、しかしセキュリティ対策は無効状態

xAIは公告で、X（元Twitter）プラットフォームとGrokを合わせて約6億人の月間アクティブユーザーがいることを明らかにしました。GrokはXアプリに深く統合されており、そのコアAI機能となっています。しかし先週末、多くのユーザーが指示を介してGrokに真の人物の性的な深層偽造画像を生成させ、その中には未成年者も含まれていました。驚いたことに、Grokはどのコンテンツセキュリティメカニズムも起動せず、非自発的な性的コンテンツや疑似児童性的虐待素材（CSAM）を直接出力していました。

その後、xAIは関連機能を緊急に停止し、「穴の修正を進めている」と述べましたが、記事作成時点でも一部の生成内容がXプラットフォーム上で広がり続けています。この出来事は国際社会から強い非難を浴びています。

 各国による合同調査、xAIに unprecedentedな規制圧力

現在、欧州連合（EU）、英国、フランス、インド、マレーシアなどの国家および地域の規制機関が、xAIに対して正式な調査を開始しています。調査の焦点は以下の通りです:

- デジタルサービス法（DSA）などプラットフォーム責任に関する規則を違反していないか;

- CSAMの生成が刑事犯罪に該当するかどうか;

- Xプラットフォームが配信チャネルとしてコンテンツ監視義務を果たしているかどうか。

EUのデジタル担当委員であるティエリー・ブレトン氏は「AIは違法コンテンツの加速器になってはならない」と警告しています。インドの情報技術省はさらに、xAIが即時改善しない場合、プラットフォームの閉鎖や巨額の罰金の可能性があると述べました。

 200億ドルの賭け、信頼危機を乗り越えられるか?

xAIは、新規資金を以下のように活用すると述べています:

- 米国、中東、アジアで超大規模なAIデータセンターを建設;

- 次世代のGrokモデルを訓練し、マルチモーダルおよびエージェント能力をサポート;

- エンジニアリングとセキュリティチームの拡大。

しかし分析では、技術の進展とセキュリティの遅れとの間にある大きなギャップが、xAIにとって最大のリスクになっていると指摘されています。AI倫理とコンプライアンスがますます厳しくなる世界の中で、有効なコンテンツのバリアがない「強力なAI」は、むしろ「弱いAI」よりも破壊的な影響を持つ可能性があります。

 AIbaseの観察: かつてない算力の走りに、セキュリティが追いつかない

xAIの200億ドルの資金調達は、資本がその技術ビジョンに与える高い信頼を示しています。しかし、Grokの深層偽造の丑聞は、同社がAIの整合性、赤チームテスト、コンテンツ管理において重大な欠陥を抱えていることを暴いています。

この危機は単なる技術的な問題ではなく、信頼の問題です。xAIが6億人のユーザーに対してセキュリティの防衛線を再構築できるかどうかが、同社がOpenAIやAnthropicの有力な競争相手になるかどうか、あるいは「能力が高ければ高いほど、危害が大きい」反面教材になるかどうかを決定します。