NVIDIA Vera: Warum agentische KI schnellere Kerne braucht, nicht mehr Kerne

NVIDIA hat die Architekturphilosophie hinter dem Vera CPU — dem Prozessor im Herzen des Vera-Rubin-Superchips — im Detail vorgestellt. Die zentrale These ist nicht die Anzahl der Kerne, sondern die Geschwindigkeit jedes einzelnen: Agentische KI-Schleifen sind inhärent sequenziell, weshalb Single-Threaded-Throughput genauso wichtig ist wie Parallelismus.

Warum unterscheiden sich agentische Schleifen von klassischen Workloads?

Der konventionelle Ansatz zur CPU-Performance-Skalierung konzentriert sich auf das Hinzufügen von Kernen, um unabhängige Aufgaben zu parallelisieren. Ein agentischer KI-Workflow funktioniert anders: Der Agent plant einen Schritt, führt ihn aus, empfängt das Ergebnis und plant auf dieser Basis den nächsten Schritt. Jeder Schritt hängt vom vorherigen ab, was bedeutet, dass die Schleife nicht trivial parallelisiert werden kann.

In einem solchen Szenario bestimmt die Geschwindigkeit eines einzelnen Kerns direkt die Latenz der gesamten Agentenschleife. Ein Prozessor mit doppelt so schnellen Kernen, aber halb so vielen Kernen, kann für agentische Aufgaben schneller sein als ein Prozessor mit mehr, aber langsameren Kernen.

Spezifikationen des Olympus-Kerns

Der Vera CPU basiert auf Olympus-Kernen, die 50 % mehr IPC im Vergleich zu NVIDIA Grace-Kernen liefern. Der Prozessor unterstützt bis zu 88 Kerne und bietet eine Speicherbandbreite von bis zu 1,2 TB/s durch LPDDR5X-Speicher bei einem Verbrauch unter 40 W für das Speicher-Subsystem.

Die Core-to-Core-Bandbreite beträgt 3,4 TB/s, was laut NVIDIA 3× mehr als bei jedem anderen Datacenter-CPU ist. Diese Metrik ist besonders relevant für Workloads, bei denen Kerne intensiv Daten austauschen müssen.

Bei belastenden Workloads, die der ARM-Architektur typischerweise nicht zugutekommen, erreicht Vera eine 1,8× höhere nachhaltige Per-Core-Leistung im Vergleich zu x86-Prozessoren. NVIDIA führt dieses Ergebnis auf die monolithische Bauweise zurück, die die sogenannte „Chiplet-Tax” eliminiert — Verzögerungen, die entstehen, wenn Daten zwischen Chips in Multi-Chip-Prozessoren übertragen werden.

Perplexity als primärer Adopter

Perplexity ist der primär öffentlich genannte Nutzer, der konkrete Performance-Daten geteilt hat. Das Unternehmen testete den Vera CPU bei agentischen Coding-Workflows, die das Klonen von Repositories und die Ausführung von Test-Suites umfassen.

Ergebnisse: rund 1,5× schnellere Job-Abschlüsse im Vergleich zur x86-Alternative sowie bis zu 1,9× schnellerer Start konkurrierender Sandboxes. Letzteres Ergebnis ist besonders relevant für Szenarien, in denen mehrere Agentensessions schnell parallel starten müssen — eine häufige Anforderung in modernen Coding-Assistant-Systemen.

Roadmap: Rosa und Rigel-Kern

NVIDIA hat einen Nachfolger unter dem Namen Rosa CPU angekündigt, der den Rigel-Kern verwenden wird. Rigel bringt verbesserte Instruktionsausgabe, größeren L2-Cache und effizienteres Speichermanagement bei gleichem Silizium-Footprint wie der Olympus-Kern.

Neben Perplexity-Daten nennt NVIDIA auch Ergebnisse anderer Partner: Starburst verzeichnet 3× schnellere SQL-Analysen bei großen Datensätzen, während Redpanda bis zu 6× niedrigere Latenz bei Echtzeit-Datenverarbeitungs-Workloads erreicht. Diese Ergebnisse zeigen, dass Olympus-Kerne auch außerhalb rein agentischer Szenarien Vorteile bieten.

Der Vera CPU ist Teil einer breiteren NVIDIA-Strategie für Infrastruktur, die die wachsende Nachfrage nach agentischen KI-Systemen bedient. Derzeit funktioniert die Ankündigung eher als Validierung durch einen frühen Kunden — Perplexity liefert konkrete Marktbelege für die Architekturentscheidungen, die NVIDIA beim Design des Olympus-Kerns getroffen hat.