NVIDIA: performansa po vatu kao ključna metrika — Blackwell GB300 do 25× efikasniji od Hoppera
NVIDIA Blackwell GB300 NVL72 je do 25× efikasniji od Hoppera mjereno performansom po vatu na modelu DeepSeek V4 Pro, a samo softverske optimizacije unutar jednog mjeseca donijele su do 5× poboljšanje.
Ovaj članak generiran je uz pomoć umjetne inteligencije na temelju primarnih izvora.
Što je “performansa po vatu” i zašto je postala ključna metrika?
Performansa po vatu označava količinu korisnog računskog rada — primjerice, broj generiranih AI tokena — po jedinici potrošene električne energije. Kako troškovi napajanja i hlađenja podatkovnih centara rastu zajedno s potražnjom za AI inferensom, ova metrika sve više određuje ekonomsku isplativost i ekološki otisak AI infrastrukture. NVIDIA u novom blogu tvrdi da je GB300 NVL72 redefinirao standard efikasnosti.
Blackwell GB300 NVL72 — konkretni rezultati
Na modelu DeepSeek V4 Pro, NVIDIA-in Blackwell GB300 NVL72 postiže do 25× bolju performansu po vatu u usporedbi s prethodnom Hopper generacijom. Na modelu GLM5.1 poboljšanje iznosi do 20×, dok na Kimi K2.6 dostiže do 10×. Radi se o hardverskim mjerenjima koja pokrivaju nekoliko vodećih otvorenih modela u produkcijskim okruženjima. Blackwell arhitektura donosi značajno poboljšanu memorijsku propusnost i energetsku učinkovitost NVLink mrežne topologije u NVL72 konfiguraciji s 72 GPU-a po ormaru.
Softverske optimizacije: 5× za jedan mjesec
Zanimljivo je da hardver nije jedini pokretač poboljšanja. Samo softverske optimizacije — bez ikakve hardverske promjene — donijele su do 5× poboljšanje efikasnosti na DeepSeek V4 unutar jednog jednog mjeseca. NVIDIA-in ekosustav alata uključuje TensorRT-LLM, NVIDIA Dynamo, SGLang, vLLM i NVIDIA DSX MaxLPS. Ova činjenica upućuje na to da je stack za orkestraciju inferensa jednako važan kao i silicij, što je neuobičajeno otvoreno priznanje kompanije poznate po fokusu na GPU hardware.
Klijenti u produkciji i implikacije za industriju
Blackwell sustave u produkciji već koriste neka od najpoznatijih AI poduzeća: Anthropic, OpenAI, CoreWeave, Perplexity i Fireworks AI. Za usporedbu, prethodna Hopper generacija (H100/H200) bila je de facto standard za AI trening i inferenciju od 2022. do 2024. Prelazak na Blackwell u produkcijskim okruženjima vodećih pružatelja usluga signalizira da je tranzicija generacija GPU-a u tijeku brže nego što su analitičari predviđali.
Česta pitanja
- Što je performansa po vatu u kontekstu AI infrastrukture?
- Performansa po vatu mjeri količinu korisnog računskog rada (npr. generiranih tokena) po jedinici potrošene električne energije, što postaje ključna metrika za evaluaciju troškova i ekološkog otiska AI sustava.
- Koji klijenti već koriste Blackwell u produkciji?
- Blackwell arhitekturu u produkciji koriste Anthropic, OpenAI, CoreWeave, Perplexity i Fireworks AI.
📬 AI vijesti u tvoj inbox
Dnevni digest po tvojoj mjeri — biraš teme, izvore i ritam. Odjava jednim klikom.
Povezane vijesti
AMD: GEAK agent automatski optimizirao DeepSeek-V4 MLA kernel na MI355 uz do 9× ubrzanje
AMD: SGLang Diffusion na ROCm-u dovodi generiranje i uređivanje slika na Instinct GPU-e — inference framework iz LLM svijeta širi se na difuziju
AMD: FlyDSL — Python DSL koji obećava performanse ručno pisanih HIP C++ GPU kernela uz znatno manje koda