NVIDIA: 와트당 성능이 핵심 지표로 — Blackwell GB300, Hopper 대비 최대 25배 효율

「와트당 성능」이란 무엇이며 왜 핵심 지표가 되었습니까?

와트당 성능은 소비 전력 단위당 생성되는 유효 계산 작업량——예를 들어 AI가 생성하는 토큰 수——을 의미합니다. 데이터 센터의 전력 및 냉각 비용이 AI 추론 수요와 함께 증가하면서, 이 지표는 AI 인프라의 경제적 타당성과 환경 발자국을 측정하는 핵심 기준이 되고 있습니다. NVIDIA는 최신 블로그에서 GB300 NVL72가 효율 기준을 재정의했다고 주장합니다.

Blackwell GB300 NVL72 — 구체적인 성과

DeepSeek V4 Pro 모델 기준으로 NVIDIA Blackwell GB300 NVL72는 이전 세대 Hopper 대비 와트당 성능 최대 25배를 달성합니다. GLM5.1 모델에서는 최대 20배, Kimi K2.6에서는 최대 10배 개선이 나타납니다. 이는 여러 주요 오픈 모델을 프로덕션 환경에서 측정한 하드웨어 수치입니다. Blackwell 아키텍처는 72개의 GPU를 갖춘 NVL72 구성에서 NVLink 네트워크 토폴로지를 통해 메모리 대역폭과 전력 효율을 대폭 향상시킵니다.

소프트웨어 최적화: 한 달 내 5배

주목할 점은 하드웨어만이 개선의 원동력이 아니라는 것입니다. 하드웨어 변경 없이 소프트웨어 최적화만으로 DeepSeek V4에서 한 달 내에 최대 5배의 효율 개선이 이루어졌습니다. NVIDIA의 도구 생태계에는 TensorRT-LLM, NVIDIA Dynamo, SGLang, vLLM, NVIDIA DSX MaxLPS가 포함됩니다. 이 사실은 추론 오케스트레이션 스택이 실리콘만큼 중요하다는 것을 시사하며, GPU 하드웨어로 유명한 회사로서는 이례적으로 솔직한 인정입니다.

프로덕션 환경 고객 및 업계 시사점

일부 가장 잘 알려진 AI 기업들이 이미 Blackwell을 프로덕션에서 사용하고 있습니다: Anthropic, OpenAI, CoreWeave, Perplexity, Fireworks AI. 비교하자면, 이전 세대 Hopper(H100/H200)는 2022년부터 2024년까지 AI 학습과 추론의 사실상의 표준이었습니다. 주요 서비스 제공업체의 프로덕션 환경에서 Blackwell로의 전환은 GPU 세대 교체가 애널리스트들의 예측보다 빠르게 진행되고 있음을 시사합니다.