マスク氏が直接対応し、Grok Buildのプライバシースキャンダルについて語った。最初の一言は「True（真実）」で、事実を認めました。その後、スペースXAIにアップロードされたすべてのユーザーデータが完全かつ徹底的に削除されるとの約束をしました。「1バイトも残さない」と述べました。AIの大手企業が公に認めてユーザーのデータを即座に消去するというケースは、AI界では初めてのことです。

セキュリティ研究者による「ハッキング」テストで証拠が判明

この出来事は、独立したAIセキュリティ研究者@cereblabによるレポートから始まりました。Grok BuildはスペースXAIが提供するAIプログラミングアシスタントで、公式ウェブページには「ローカル優先、コードはあなたのコンピュータに残る」と明記されています。しかし、この研究者は信じず、偽のAPIキーとデータベースパスワードなどを含む唯一無二の誘いを仕込んだテスト用リポジトリを作成し、サボタージュのような方法でGrok Buildが送信するすべてのデータパケットをキャプチャしました。

彼は特に指示を出して、Grok Buildに何もしないように求め、単に「OK」と答えるだけにしておきました。Grok BuildはOKと返事をしましたが、その直後にリポジトリ内のすべてのファイルと完全な変更履歴をGoogle Cloudのストレージバケットに圧縮してアップロードしました。12GBのテストリポジトリから実際に送信されたのは5.1GBで、73個のパッケージに分割されてすべて届けられました。一方で、会話自体はたった192KBのトラフィックしか使わず、それに対して送信されたデータは本業の27800倍にもなりました。別の研究者が再現したところでは、ログには339回の自動アップロードが記録されており、そのうちの1回はパソコン全体のメインディレクトリそのものを送信していたことがわかりました。

48時間以内にマスクがデータをゼロに設定しましたが、信頼危機は解消されません

レポートが公開された当日、Hacker Newsのトップページに掲載され、Redditでは大混乱となりました。開発者の中にはすべてのキーペアを即座に交換した人もいましたし、ある人はすぐにアンインストールしました。最も痛かったのは企業ユーザーでした。どのチームのプライベートリポジトリや本番環境のキーペアが、まったく知らないうちに他人のストレージに送られてしまったのか、自分自身が何を失ったのかすら確認できなかったのです。xAIの最初の反応は、アップロード行為を静かに停止することでしたが、公式のアップデートノートには一切触れませんでした。沈黙は長くは続きませんでした。最終的に、Grokの公式が事実を認めて、データ保持を一括でオフにするコマンドを公開しました。