概要
NVIDIAは8月24日、Hot Chips 2026にあわせて推論特化チップ「Groq 3 LPX」の量産開始を発表した。同チップはNVIDIAの次世代AIプラットフォーム「Vera Rubin NVL72」を拡張する形で設計されており、両者が各層の演算を分担・協調処理することで、AIエージェントが抱える「デコードレイテンシ」の課題に対応する。NVIDIAはこの技術により、レイテンシに敏感なワークロードで競合プラットフォーム比4倍の応答性能を実現し、複数ステップにわたる複雑なエージェントタスクを数時間ではなく数分で完了できるとしている。Jensen Huang CEOは「エージェント型AIのスループット、効率、応答性における新たな飛躍」と位置づけた。第三者機関Artificial Analysisによる初の独立ベンチマークでは、オープンソースモデルGemma 4 31Bを用いた検証で毎秒3,400トークンの出力性能が確認され、競合のCerebrasに対して4倍高速との結果が示された。
Groq 3 LPXの技術は、NVIDIAが2025年12月にGroq社との間で結んだ約200億ドル規模のライセンス契約に基づくものだ。この契約でNVIDIAは技術のライセンス供与を受けるとともに、Groq創業者を含む人材を迎え入れている。量産開始にあわせ、Nebius Groupが最初の正式採用顧客として名乗りを上げ、自社の推論基盤「Nebius Token Factory」への統合を進める計画を明らかにした。このほかCoreWeave、SpaceXも採用を表明しており、特にSpaceXは地上および軌道上インフラの双方でVera Rubin基盤の展開を計画しているという。
技術的な詳細
Groq 3 LPXは、GDDR7やHBM4といった外部メモリに依存する従来のGPUアーキテクチャとは異なり、大容量のオンダイSRAMを備えたデータフロー型アーキテクチャを採用している点が特徴だ。メモリ帯域幅は約150TB/秒に達するが、SRAMはダイ面積効率の面で不利なため、1チップあたりのメモリ容量は500MBに制限される。このため単体チップで大規模モデルを実行することはできず、複数の加速器を高帯域幅のインターコネクトで接続する構成が前提となる。NVIDIAのブログによれば、最大256基の加速器を連結した構成での展開が可能とされている。
今後の展望と課題
一方で、今回のベンチマーク結果には限定的な側面も指摘されている。検証に使われたGemma 4は31Bパラメータと比較的小規模なモデルであり、大規模なMoE(混合専門家)モデルへの拡張性は未検証だ。例えばDeepSeek V3(671Bパラメータ)クラスのモデルをLPX上で稼働させるには1,342基の加速器、5ラック以上の規模が必要になるとの試算もある。また今回のベンチマークはLPU単体構成での比較であり、Cerebrasが1〜2チップで同等のモデルを実行できるのに対し、NVIDIA側は64基以上のチップを要するとの指摘もある。競合のCerebrasも次世代品「CS-4」でメモリ帯域幅を倍増させる計画を進めているほか、AMDとの連携やAWSとの協業も進んでおり、NVIDIAの優位性は今後の競争環境の変化とともに目減りしていく可能性があるとの見方も示されている。約200億ドルという投資規模に見合う成果を出せるかどうかは、今後より大規模なモデルでの実運用データが蓄積される中で評価されることになりそうだ。