NVIDIA: Vera Rubin platforma trenira najveće AI modele s četvrtinom GPU-a Blackwell generacije zahvaljujući codesignu
NVIDIA tvrdi da nova Vera Rubin platforma trenira najveće AI modele koristeći samo četvrtinu broja GPU-a Blackwell generacije, zahvaljujući end-to-end codesignu hardvera i softvera. Model Nemotron 3 Ultra postigao je 71,7% na SWE-bench Verified benchmarku, a Vera CPU-i pokazali oko 30% veći throughput od x86 alternativa.
Ovaj članak generiran je uz pomoć umjetne inteligencije na temelju primarnih izvora.
Koliko GPU-a štedi Vera Rubin platforma?
NVIDIA tvrdi da Vera Rubin platforma trenira najveće AI modele koristeći samo četvrtinu broja GPU-a potrebnih na prethodnoj Blackwell generaciji. Ušteda dolazi zahvaljujući end-to-end codesignu, pristupu u kojem se hardver i softver razvijaju zajedno od početka, umjesto odvojeno. Platforma spaja Vera CPU procesore i Rubin GPU-e u jedinstven dizajn, pa se optimizacije provode na razini cijelog sustava, a ne samo na razini pojedinog čipa.
Tehnička pozadina
Nemotron 3 Ultra je NVIDIA-in model tipa MoE (Mixture of Experts) s 550 milijardi parametara, arhitektura u kojoj se za svaki upit aktivira samo dio specijaliziranih “eksperata” unutar mreže, umjesto cijelog modela. Model je na SWE-bench Verified, benchmarku koji mjeri sposobnost rješavanja stvarnih bugova prijavljenih na GitHubu, postigao rezultat od 71,7 posto.
Rezultati testiranja
Prime Intellect je testirao Vera CPU procesore u RL (reinforcement learning) sandbox okruženjima i izmjerio oko 30 posto veći throughput po procesoru u odnosu na alternativne x86 arhitekture. Post-training, kontinuirano usavršavanje modela nakon početnog treninga putem dodatnih podataka i povratnih informacija, NVIDIA prikazuje kao trajni proces, a ne jednokratni korak. Rezultat pokazuje da odabir procesorske arhitekture izravno utječe na brzinu RL sandbox ciklusa, ne samo na sirovi broj GPU-a raspoloživ u sustavu.
Što to znači za tržište
NVIDIA ističe “inteligenciju po dolaru” kao ključnu metriku za agentski AI, umjesto isključivo sirove računalne snage. Ako se tvrdnja o četvrtini GPU-a Blackwell generacije potvrdi u praksi, trošak treniranja modela usporedive veličine mogao bi se značajno smanjiti u odnosu na prethodnu generaciju. Umjesto uspoređivanja generacija isključivo prema broju tranzistora ili sirovih FLOP-ova, NVIDIA predlaže da se napredak mjeri omjerom ostvarene inteligencije modela i uloženog novca, što izravno određuje koliko GPU-a poduzeća moraju kupiti za treniranje usporedivih modela.
Česta pitanja
- Što je Nemotron 3 Ultra?
- Nemotron 3 Ultra je NVIDIA-in MoE (Mixture of Experts) model s 550 milijardi parametara koji je postigao 71,7% na SWE-bench Verified benchmarku.
- Koliko GPU-a Vera Rubin platforma uštedi u odnosu na Blackwell?
- NVIDIA tvrdi da su za treniranje najvećih modela potrebne samo četvrtina GPU-a Blackwell generacije, zahvaljujući end-to-end codesignu hardvera i softvera.
Izvori
📬 AI vijesti u tvoj inbox
Dnevni digest po tvojoj mjeri — biraš teme, izvore i ritam. Odjava jednim klikom.