NVIDIA: 코디자인 덕분에 Vera Rubin 플랫폼이 Blackwell 세대 GPU의 4분의 1만으로 최대 규모 AI 모델 훈련

Vera Rubin 플랫폼은 GPU를 얼마나 절약하나?

NVIDIA는 Vera Rubin 플랫폼이 최대 규모의 AI 모델을 훈련할 때 이전 세대인 Blackwell에 필요했던 GPU 수의 단 4분의 1만 사용한다고 밝혔습니다. 이러한 절감은 하드웨어와 소프트웨어를 처음부터 별도가 아닌 함께 개발하는 방식인 엔드투엔드 코디자인(codesign) 덕분입니다. 이 플랫폼은 Vera CPU 프로세서와 Rubin GPU를 하나의 통합된 설계로 결합하여, 최적화가 개별 칩 수준이 아니라 시스템 전체 수준에서 이루어집니다.

기술적 배경

Nemotron 3 Ultra는 5500억 개의 파라미터를 가진 NVIDIA의 MoE(전문가 혼합, Mixture of Experts) 유형 모델로, 각 요청마다 전체 모델이 아니라 네트워크 내 전문화된 “전문가” 중 일부만 활성화되는 아키텍처입니다. 이 모델은 GitHub에 보고된 실제 버그를 해결하는 능력을 측정하는 벤치마크인 SWE-bench Verified에서 71.7%의 점수를 기록했습니다.

테스트 결과

Prime Intellect는 RL(강화학습) 샌드박스 환경에서 Vera CPU 프로세서를 테스트했으며, 대안 x86 아키텍처 대비 프로세서당 약 30% 높은 처리량을 측정했습니다. NVIDIA는 초기 훈련 이후 추가 데이터와 피드백을 통해 모델을 지속적으로 다듬는 과정인 사후 훈련(post-training)을 일회성 단계가 아닌 지속적인 과정으로 제시합니다. 이 결과는 프로세서 아키텍처 선택이 시스템에서 사용 가능한 GPU의 단순 수량뿐 아니라 RL 샌드박스 주기의 속도에도 직접적인 영향을 미친다는 것을 보여줍니다.

시장에 주는 의미

NVIDIA는 순수한 연산 능력 대신 “달러당 지능”(intelligence per dollar)을 에이전틱 AI의 핵심 지표로 강조하고 있습니다. Blackwell 세대 GPU의 4분의 1이라는 주장이 실제로 확인된다면, 비슷한 규모의 모델을 훈련하는 비용이 이전 세대 대비 크게 줄어들 수 있습니다. NVIDIA는 트랜지스터 수나 순수 FLOP 값만으로 세대를 비교하는 대신, 모델이 달성한 지능과 투입된 자금의 비율로 발전을 측정할 것을 제안하며, 이는 기업이 비슷한 모델을 훈련하기 위해 구매해야 할 GPU 수를 직접적으로 결정합니다.