🟡 🔧 ハードウェア 公開日: · 2 分で読めます ·

NVIDIA:コデザインによりVera RubinプラットフォームがBlackwell世代の4分の1のGPUで最大級のAIモデルを訓練

青いトーンで表現されたサーバーチップとデータセンターの抽象的なイメージ

NVIDIAは、新しいVera Rubinプラットフォームがハードウェアとソフトウェアのエンドツーエンドのコデザインにより、Blackwell世代のわずか4分の1のGPU数で最大級のAIモデルを訓練できると主張しています。Nemotron 3 UltraモデルはSWE-bench Verifiedベンチマークで71.7%を達成し、Vera CPUはx86代替品よりも約30%高いスループットを示しました。

🤖

この記事はAIにより一次情報源から生成されました。

Vera Rubinプラットフォームはどれだけのグラフィックカードを節約するのか?

NVIDIAは、Vera Rubinプラットフォームが最大級のAIモデルを訓練する際、前世代のBlackwellで必要だったGPU数のわずか4分の1しか使わないと主張しています。この節約は、エンドツーエンドのコデザイン、つまりハードウェアとソフトウェアを別々にではなく最初から共同で開発するアプローチによって実現されています。このプラットフォームはVera CPUプロセッサとRubin GPUを一体化した設計に統合しているため、最適化は個々のチップレベルではなく、システム全体のレベルで行われます。

技術的背景

Nemotron 3 Ultraは、5500億パラメータを持つNVIDIAのMoE(Mixture of Experts)型モデルで、各クエリに対してネットワーク内の専門化された「エキスパート」の一部のみが活性化され、モデル全体は使われないというアーキテクチャです。このモデルは、GitHubで報告された実際のバグを解決する能力を測定するベンチマークであるSWE-bench Verifiedで71.7%のスコアを達成しました。

テスト結果

Prime IntellectはRL(強化学習)サンドボックス環境でVera CPUプロセッサをテストし、代替のx86アーキテクチャと比較してプロセッサあたり約30%高いスループットを測定しました。ポストトレーニング(post-training)——初期訓練後に追加のデータとフィードバックを通じてモデルを継続的に磨き上げるプロセス——を、NVIDIAは一度限りのステップではなく継続的なプロセスとして描いています。この結果は、プロセッサアーキテクチャの選択が、システムで利用可能なGPUの単純な数だけでなく、RLサンドボックスサイクルの速度に直接影響することを示しています。

市場にとっての意味

NVIDIAは、単なる生の計算能力ではなく、「ドルあたりのインテリジェンス」をエージェント型AIの重要な指標として強調しています。Blackwell世代の4分の1のGPUという主張が実際に確認されれば、同等規模のモデルを訓練するコストは前世代と比べて大幅に削減される可能性があります。NVIDIAは、トランジスタ数や生のFLOP値だけで世代を比較するのではなく、モデルが達成したインテリジェンスと投入した資金の比率で進歩を測ることを提案しており、これは企業が同等のモデルを訓練するために購入すべきGPU数を直接左右します。

よくある質問

Nemotron 3 Ultraとは何ですか?
Nemotron 3 Ultraは、SWE-bench Verifiedベンチマークで71.7%を達成した、5500億パラメータを持つNVIDIAのMoE(Mixture of Experts)モデルです。
Vera RubinプラットフォームはBlackwellと比べてどれだけGPUを節約しますか?
NVIDIAは、ハードウェアとソフトウェアのエンドツーエンドのコデザインにより、最大級のモデルの訓練にBlackwell世代のわずか4分の1のGPUしか必要としないと主張しています。

📬 AIニュースをあなたの受信箱へ

毎日のダイジェストを自分仕様に——トピック、ソース、頻度を選べます。ワンクリックで解除。