NVIDIA Vera CPU soll schnellere und effizientere KI-Agenten ermöglichen
NVIDIA zufolge kann die Vera CPU hohe Durchsatzkapazität mit schneller Leistung für KI-Agenten verbinden. Diese wechseln während ihrer Arbeit wiederholt zwischen Schlussfolgerungen auf der GPU und der Ausführung auf der CPU. In einem Vergleich von Rechenzentren mit 100 Megawatt erklärt das Unternehmen, Vera habe bei seinen Messungen sowohl die schnellsten als auch die energieeffizientesten x86-CPUs übertroffen.
- NVIDIA zufolge ermöglicht Vera 1,6-mal mehr Agenten pro Watt als die schnellste x86-CPU.
- Das Unternehmen meldet eine 2-mal höhere Geschwindigkeit bei Agenten als mit der energieeffizientesten x86-CPU.
- Perplexity führte Aufgaben zum agentischen Programmieren mit Vera 1,5-mal schneller aus als mit herkömmlichen CPUs.
- Daytona startete mit Vera 1.000 Sandboxes in 10,8 Sekunden.
- Modal meldete pro Kern einen bis zu 2-mal höheren Sandbox-Durchsatz als bei vergleichbarer x86-Hardware.
Eine CPU für Agenten-Workloads
KI-Agenten erledigen mehr als nur Antworten zu generieren. Laut NVIDIA suchen sie nach Informationen, stellen Datenbankabfragen, schreiben und testen Code und führen Aktionen aus. Jeder Schritt stützt sich auf eine CPU, während ein Agent während einer Aufgabe zwischen Schlussfolgerungen auf der GPU und der Ausführung auf der CPU wechseln kann.
Da Unternehmen mehr Agenten einsetzen, benötigen Anbieter von KI-Infrastruktur CPUs, die viele Workloads gleichzeitig bewältigen können, ohne dass einzelne Agenten länger warten müssen. NVIDIA beschreibt KI-Fabriken außerdem als durch die verfügbare Leistung begrenzt. Damit wird die pro Watt erledigte Arbeit zu einem zentralen Kriterium für Betreiber.
Das Unternehmen positioniert Vera als einzelne CPU für eine Reihe von Agenten-Workloads. Dieser Ansatz könnte den Bedarf verringern, schnelle und hochdichte x86-Komponenten zu kombinieren, wenn Anbieter von Infrastruktur zwischen Reaktionsgeschwindigkeit und Kapazität abwägen.
NVIDIA meldet Leistungs- und Effizienzgewinne
NVIDIA zufolge erzielte Vera eine branchenführende Geschwindigkeit bei Agenten und ermöglichte im Vergleich mit der schnellsten x86-CPU in seinem Rechenzentrumsvergleich mit 100 Megawatt 1,6-mal mehr Agenten pro Watt. Das Unternehmen erklärt außerdem, Vera habe im Vergleich mit der energieeffizientesten x86-CPU eine 2-mal höhere Geschwindigkeit bei Agenten bei führender Energieeffizienz erreicht.
Bei diesen Zahlen handelt es sich um eigene Vergleichsangaben von NVIDIA. Die Quelle nennt die eingesetzten x86-Prozessoren nicht namentlich, stellt die Ergebnisse jedoch zwei unterschiedlichen Prioritäten bei der Infrastruktur gegenüber: maximaler Geschwindigkeit und energieeffizienter Kapazität.
Frühe Anwender testen Vera mit produktionsnahen Workloads
NVIDIA zufolge haben Partner Vera bereits in den Bereichen agentisches Programmieren, Orchestrierung, Datenbanken und abgeschottete Workloads getestet. Perplexity führte Aufgaben zum agentischen Programmieren mit Vera 1,5-mal schneller aus als mit herkömmlichen CPUs und plant, Vera in einem kommenden Produktivsystem einzusetzen.
DeepInfra meldete bei der agentischen Orchestrierung für seinen produktiven Agenten-Workload eine bis zu 2,2-mal höhere Geschwindigkeit als mit dem besten x86-Prozessor. Damit war Vera die schnellste der vier getesteten Architekturen. ClickHouse skalierte seine Standard-Binärdatei ohne Vera-spezifische Optimierung nahezu linear über 176 Kerne und führte die Hardware-Rangliste von ClickBench an.
DuckLabs erreichte etwa die 1,5-fache mediane TPC-H-SF1000-Leistung eines Intel Xeon 6 als Referenz. Daytona startete 1.000 Agenten-Sandboxes in 10,8 Sekunden und erreichte bei 2.000 gleichzeitig betriebenen Sandboxes 12,7 abgeschlossene Jobs pro Sekunde. Mit x86 dauerte dies im Vergleich 88,4 Sekunden. Modal meldete pro Kern einen bis zu 2-mal höheren Sandbox-Durchsatz als bei vergleichbarer x86-Hardware. Unter hoher Auslastung nahmen die Zugewinne zu.
Für Anbieter von Infrastruktur und Nutzer, die Agenten betreiben, deuten die Ergebnisse auf einen Zielkonflikt hin, den Vera laut NVIDIA lösen soll: schnellere Aufgabenausführung bei gleichzeitig höherer Kapazität innerhalb der Leistungsgrenzen. Die gemeldeten Partnertests legen außerdem nahe, dass die CPU mit unterschiedlichen Workloads und nicht nur mit einem einzelnen Benchmark bewertet wird.
