NVIDIA Vera：エージェント型AIに必要なのは多くのコアではなく速いコアだ

NVIDIAはVera Rubinスーパーチップの中核に位置するVera CPUの背後にある設計思想を詳しく説明した。中心的な主張はコア数ではなく各コアの速度だ。エージェント型AIループは本質的に逐次的であるため、シングルスレッドのスループットは並列処理と同等に重要だ。

なぜエージェントのループは従来のワークロードと異なるのか？

CPUパフォーマンスをスケールさせる従来のアプローチは、独立したタスクを並列化するためにコアを追加することに焦点を当てている。エージェント型AIワークフローは異なる動作をする。エージェントはステップを計画し、それを実行し、結果を受け取り、その結果に基づいて次のステップを計画する。各ステップは前のステップに依存するため、ループは自明には並列化できない。

このシナリオでは、1つのコアの速度がエージェントループ全体のレイテンシを直接決定する。より多くの遅いコアを持つプロセッサよりも、2倍速いコアを持ちながらコア数が半分のプロセッサの方が、エージェントタスクではより速くなることがある。

Olympusコアのスペック

Vera CPUはGrace比50%高いIPCをもたらすOlympusコアに基づいている。最大88コアをサポートし、メモリ帯域幅はLPDDR5Xメモリ経由で最大1.2 TB/s、メモリサブシステムの消費電力は40W未満だ。

コア間帯域幅は3.4 TB/sで、NVIDIAのデータによれば他のどのデータセンターCPUよりも3倍以上だ。このメトリクスは、コアが大量にデータを交換する必要があるワークロードに特に関連する。

ARMアーキテクチャに不利な典型的なヘビーワークロードにおいて、Veraはx86プロセッサ比1.8倍の持続的なコアあたりパフォーマンスを達成する。NVIDIAはこの結果をモノリシック構造（いわゆる「チップレット税」――マルチチップレットプロセッサ内でチップをまたぐデータ転送の遅延――を排除した設計）によるものとしている。

Perplexityが主要な採用者として

Perplexityは具体的なパフォーマンスデータを共有した公開された主要ユーザーだ。同社はリポジトリのクローニングとテストスイートの実行を含むコーディングエージェントワークフローでVera CPUをテストした。

結果：x86の代替品と比較して約1.5倍高速なジョブ完了、そして最大1.9倍高速な並行サンドボックスの起動。後者の結果は、複数のエージェントセッションが並行して素早く起動する必要があるシナリオに特に関連する。これは最新のコーディングアシスタントシステムの一般的な要件だ。

ロードマップ：RosaとRigelコア

NVIDIAはRigelコアを使用するRosa CPUという後継機を発表した。RigelはOlympusコアと同じシリコンフットプリントを維持しながら、改善された命令デリバリー、大きなL2キャッシュ、より効率的なメモリ管理をもたらす。

Perplexityのデータに加え、NVIDIAは他のパートナーの結果も報告している。StarburstはSQLアナリティクスの大規模データセットでの3倍の高速化を記録し、Redpandaはリアルタイムデータ処理ワークロードで最大6倍の低レイテンシを達成した。これらの結果はOlympusコアが厳密なエージェントシナリオを超えて優位性を持つことを示している。

Vera CPUはエージェント型AIシステムへの高まる需要に応える拡大するNVIDIAインフラ戦略の一部として登場している。この時点では、この発表はクラシックな製品ローンチというよりも最初の顧客による検証として機能している――PerplexityはNVIDIAがOlympusコアの設計で行ったアーキテクチャ上の決定のための具体的な市場証拠をもたらしている。