学術界から多数の現象級AIエンジンが生まれた後、オープンソースの推論フレームワーク vLLM のコアメンバーは正式にスタートアップ企業 Inferact を設立しました。この会社は 8億ドル の出資前評価で、最大で 1.5億ドル のシードファンドを成功裏に集めました。

ロボット、AI

トップキャピタルの支援により、「推論」の商業化が加速

今回の資金調達は Andreessen Horowitz （a16z） と Lightspeed Venture Partners が共同で主導しました。この動きは、vLLM の商業化ルートについて市場で以前から囁かれていた予測を実証し、AI業界の焦点が「モデルトレーニング」から「アプリケーション推論」へと全面的に移行していることを示しています。

  • 技術背景: Inferact はカリフォルニア大学バークレー校の Ion Stoica 教授（Databricks の共同創設者）の研究室から生まれました。その核心技術である vLLM は、画期的なメモリ管理技術により、大規模モデルの実行速度を大幅に向上させ、エネルギー消費を低減することができます。

  • 市場的地位: シェフ・オペレーティング・オフィサー（CEO）の Simon Mo は、vLLM のオープンソース版がアマゾンクラウドサービス（AWS）やアマゾンショッピングなどの大手企業によって広く採用されていると述べています。

推論分野の「バークレー二雄」

Inferact の登場は、もう一つの有名なフレームワーク SGLang から商売化された RadixArk