エロン・マスク氏は最近、ソーシャルメディアのXで、自社の人工知能企業xAIが開発している大規模言語モデル「Grok」の内部バージョン9の基礎モデルが正式にトレーニングを完了したことを確認しました。この新しいモデルは驚くべき1.5兆ものパラメータ数を持ち、今後3〜4週間以内に一般公開される予定です。

マスク氏は今回のアップデートに対して非常に自信を持っており、「王炸（ワンズ）」レベルの体験をユーザーにもたらすと語っています。OpenAIやAnthropicがプログラミング分野で継続的に力を入れている中、xAIはこの動きにより、超大規模なパラメータ数を通じて技術的なリードを獲得しようとしています。

既存データの欠点に目を向ける、膨大なコードデータの収集

マスク氏は2日前、現在使用されているGrok 4.3の大規模言語モデルには実際の性能においてデータの欠点があることを率直に認めました。特にAIプログラミング分野において、Grok 4.Xシリーズのこれまでのアップデートはスコアで優れていますが、実際の体験では業界の基準となるClaudeには及ばない状況でした。

この技術的なギャップを完全に埋めるために、新バージョンのモデルは公開前に重要な補完トレーニングの段階に入ります。この段階では、プログラミングツールであるCursorのコードデータを大量に収集し、モデルに堅実な基礎知識を詰め込むことが計画されています。

Cursorとの深い協力、プログラミング能力の微調整

ベースとなるコード知識の注入が終わると、開発チームは監督された微調整（SFT）と強化学習（RL）を通じて、モデルをさらに詳細に仕上げていきます。以前から、xAIは人気のあるプログラミングツールであるCursorと深い協力関係を築いており、その相手に計算リソースのサポートを提供するだけでなく、200億ドルで買収する可能性もあるという噂も流れています。