NVIDIA Vera: zašto agentski AI treba brže jezgre, a ne više jezgri

NVIDIA je detaljno predstavila arhitekturnu filozofiju iza Vera CPU-a — procesora koji stoji u srcu Vera Rubin superchipa. Središnja teza nije broj jezgri, nego brzina svake pojedine: agentske AI petlje su inherentno sekvencijalne, pa je single-threaded throughput jednako važan kao i paralelizam.

Zašto su agentske petlje drugačije od klasičnih workloadova?

Konvencionalni pristup skaliranju CPU performansi fokusira se na dodavanje jezgri kako bi se paralelizirali neovisni zadaci. Agentski AI workflow funkcionira drugačije: agent planira korak, izvršava ga, prima rezultat, pa na temelju njega planira sljedeći korak. Svaki korak ovisi o prethodnom, što znači da se petlja ne može trivijalno paralelizirati.

U takvom scenariju, brzina jedne jezgre direktno određuje latenciju cijele agentske petlje. Procesor s dvostruko bržom jezgrom, ali upola manje jezgri, može biti brži za agentske zadatke od procesora s više sporih jezgri.

Specifikacije Olympus jezgre

Vera CPU temelji se na Olympus jezgrama koje donose 50% veći IPC u usporedbi s NVIDIA Grace jezgrama. Procesor podržava do 88 jezgri i nudi memorijsku propusnost do 1,2 TB/s kroz LPDDR5X memoriju, uz potrošnju ispod 40 W za memorijski podsustav.

Core-to-core propusnost iznosi 3,4 TB/s, što je prema NVIDIA podacima 3× više od bilo kojeg drugog datacenter CPU-a. Ova metrika posebno je relevantna za workloadove u kojima jezgre moraju intenzivno razmjenjivati podatke.

U opterećenim workloadovima koji tipično ne idu na ruku ARM arhitekturi, Vera postiže 1,8× veći održivi per-core učinak u usporedbi s x86 procesorima. NVIDIA ovaj rezultat pripisuje monolitnoj konstruktivnoj izvedbi koja eliminira tzv. „chiplet tax” — kašnjenja koja nastaju kada podaci prelaze između čipova unutar višestrukovnih procesora.

Perplexity kao primarni adopter

Perplexity je primarni javno imenovani korisnik koji je podijelio konkretne podatke o performansama. Tvrtka je testirala Vera CPU na coding agentskim workflowovima koji uključuju kloniranje repozitorija i izvršavanje testnih paketa.

Rezultati: oko 1,5× brže dovršavanje poslova u usporedbi s x86 alternativom, te do 1,9× brže pokretanje konkurentnih sandboxova. Potonji rezultat posebno je relevantan za scenarije u kojima više agentskih sesija treba brzo startati paralelno, što je čest zahtjev u modernim coding assistant sustavima.

Roadmap: Rosa i Rigel jezgra

NVIDIA je najavila nasljednika pod nazivom Rosa CPU koji će koristiti Rigel jezgru. Rigel donosi poboljšanu isporuku instrukcija, veći L2 cache i učinkovitije upravljanje memorijom, uz zadržavanje istog silicijskog otiska kao Olympus jezgra.

Uz podatke iz Perplexityja, NVIDIA navodi i rezultate s drugim partnerima: Starburst bilježi 3× brže izvođenje SQL analitike na velikim skupovima podataka, dok Redpanda postiže do 6× manju latenciju na workloadovima za obradu podataka u stvarnom vremenu. Ovi rezultati pokazuju da Olympus jezgre nose prednost i izvan usko agentskih scenarija.

Vera CPU dolazi kao dio šire NVIDIA strategije za infrastrukturu koja opslužuje rastuću potražnju za agentskim AI sustavima. U ovom trenutku, objava više funkcionira kao validacija od strane prvog kupca nego kao klasično lansiranje proizvoda — Perplexity donosi konkretne tržišne dokaze za arhitekturne odluke koje je NVIDIA donijela u dizajnu Olympus jezgre.