アリババ・ダーモン研究所が今年3月に発表したエントリーレベルのCPUである玄鐵C950は、最近その歴史において重要な出来事を迎えた――通義千問3.8-27Bの大規模モデルをネイティブに実行することに成功した。この進展は、GPUに依存せず、シミュレーション層を必要とせずにRISC-Vアーキテクチャのチップが270億パラメータ規模の大型AIモデルを直接駆動するという、画期的な技術的潜在力を示している。

64ビットサーバー向けプロセッサとして設計された玄鐵C950は、台湾積電（TSMC）の5nmプロセスで製造されており、内部には最大64個の計算コアが統合されている。各8コアごとに高速なAMBA CHIバスが接続されており、動作周波数は最高で3.2GHzに達する。ハードウェア構造では、8命令デコード幅と16段パイプライン設計により、前世代の玄鐵C920と比較してメモリアクセス帯域が4倍以上向上しており、さらにAI推論負荷に最適化されたマトリクス加速エンジンとベクトル加速エンジンがチップ内に直接統合されている。優れた設計により、単一コアの汎用性能はSPECint2006ベンチマークテストで70ポイントを突破し、世界のRISC-V CPUの性能記録を更新した。

実際の実行性能において、玄鐵C950が通義千問3.8-27Bモデルを駆動した場合、デコード速度は1秒あたり30トークンに達し、最初のトークン遅延は1.9秒以内に保たれている。従来の方法ではこのような大規模なモデルを実行するには16GB〜24GBの専用VRAMが必要だったが、玄鐵C950はCPU本体とチップ上に統合されたアクセラレーターだけで全体の推論処理を完結できるため、外付けの専用グラフィックカードの設置を完全に省略することが可能となった。

業界生態系の観点から見ると、RISC-Vのオープンソース性が独自の戦略的優位性をもたらしている。x86やARMアーキテクチャに依存する場合、高額なライセンス費用を支払わなければならないが、アリババは通義モデルシリーズ、クラウドコンピューティングインフラストラクチャおよび玄鐵チップアーキテクチャをすべて掌握しており、下位のチップ設計から上位のモデル推論に至るまで完全な自主制御を実現している。この垂直統合能力により、今後のモデルオペレータはハードウェア特性に基づいて深く再設計され、その後のチップも生産環境での実際データに基づいて専用命令セットをカスタム設定することができるようになる。これにより、AIインフラストラクチャの多様化に新たな道を開くことになる。