CoreWeave bringt NVIDIA Vera CPU: Mehr als 11.000 Agenten-Umgebungen pro Rack

Warum CoreWeave eine CPU für Agenten ins Angebot nimmt

CoreWeave argumentiert, dass GPUs zwar generieren und schlussfolgern, CPUs aber alles um diese Arbeit herum erledigen: die Sandboxes, Tool-Aufrufe und Datenpipelines, auf die jeder Agent angewiesen ist. Mit dem Wachstum von Post-Training und agentischen Workloads steige, so das Unternehmen, der CPU-Anteil an jedem Durchlauf der KI-Schleife immer weiter.

NVIDIA Vera ist laut CoreWeave die erste Arm-basierte CPU für KI-Agenten. Sie verfügt über 88 eigens entwickelte Olympus-Kerne, die für die verzweigungsintensive, speichergebundene Arbeit ausgelegt sind, die Agenten erzeugen. CoreWeave nennt Reinforcement-Learning-Umgebungen, Post-Training-Pipelines und Datenvorverarbeitung, die inzwischen im Flottenmaßstab laufen, sowie die Ausführung von Agenten in Sandboxes sowohl beim Training als auch bei der Inferenz.

In eigenen Tests habe CoreWeave auf der NVIDIA Vera CPU mehr als dreimal so schnelle Startzeiten für Agenten-Sandboxes erreicht wie mit einer alternativen x86-CPU.

Spezifikationen von Node und Rack

Jeder Vera-Node bei CoreWeave ist wie folgt konfiguriert:

• 2 NVIDIA Vera CPUs mit je 88 Kernen
• 1,5 TB RAM
• 15,36 TB lokaler NVMe-Speicher
• BlueField-4 DPU, 800 Gbit/s

Auf Rack-Ebene nennt CoreWeave 128 Vera CPUs und 11.264 Kerne in einem einzigen Rack, das mehr als 11.000 parallele Umgebungen unterstützt. Für Teams, die in Hunderttausenden Umgebungen planen, werde das Rack statt des Nodes zur Planungseinheit, so das Unternehmen.

Für vorhersehbare Leistung sieht CoreWeave sowohl das Silizium als auch die Infrastruktur verantwortlich. Das Spatial Multithreading der Vera weist jedem Thread einen eigenen, dedizierten Anteil des Prozessors zu, statt Threads gegeneinander konkurrieren zu lassen. Hinzu kommen laut CoreWeave Bare Metal ohne Hypervisor-Overhead sowie eine DPU in jedem Vera-Node, die Netzwerk-, Speicher- und Betriebsaufgaben übernimmt, sodass Workloads alle Kerne nutzen können.

Die Vera CPU steckt auch in GPU-Systemen. Jedes Compute Tray des Vera Rubin NVL72 kombiniert zwei Vera CPUs mit vier Rubin GPUs, pro Rack ergeben sich so 36 CPUs und 72 GPUs. Eigenständige Vera-Kapazität skaliert diese CPU-Seite unabhängig.

Preismodelle für schwankende Nachfrage

CoreWeave weist darauf hin, dass die Nachfrage nach Datenvorverarbeitung und RL-Trainingsepisoden stoßweise auftritt. Ein einzelner Schritt benötige womöglich eine Stunde lang Zehntausende Umgebungen und danach bis zum nächsten Lauf fast nichts. Wer für die Spitze einkaufe, lasse Kapazität brachliegen, wer für den Durchschnitt einkaufe, lasse das Training warten, so das Unternehmen.

Die Antwort ist eine Mischung aus Nutzungsmodellen:

• Gebuchte Kapazität für die konstante Grundlast.
• Serverless-Überlauf für Lastspitzen.
• Spot-Kapazität für unterbrechbare Aufgaben mit bis zu 60 Prozent Ersparnis und einer Vorwarnung von 7 Minuten vor der Verdrängung, damit Jobs sauber Checkpoints schreiben und auslaufen können.

CoreWeave Sandboxes auf dem CoreWeave Kubernetes Service (CKS) und Serverless führen isolierte Umgebungen für RL, Tool-Nutzung von Agenten und Evaluierung neben den Trainingsclustern aus. Laut Unternehmen kann eine gebuchte CPU, die zwischen Läufen sonst ungenutzt bliebe, ohne Aufpreis über die reine Rechenleistung hinaus für Agenten- und Evaluierungsaufgaben genutzt werden. Eine Control Plane umspannt die GPU- und CPU-Flotte: CKS, CoreWeave SUNK und CoreWeave Mission Control.

Was das für Kunden bedeutet

Mit Vera stößt NVIDIA im Multi-Vendor-CPU-Portfolio von CoreWeave zu AMD EPYC und Intel Xeon, alle auf Bare Metal und in einem einheitlichen Betriebsmodell. Laut CoreWeave können Kunden jeden Workload der Hardware zuordnen, auf der er am besten läuft, und diese Wahl ändern, ohne die Plattform wechseln zu müssen.

Vera-Instanzen sind zudem architektonisch konsistent mit den Arm-Hosts in modernen NVIDIA-GPU-Systemen, darunter den Vera CPUs im Vera Rubin NVL72, sodass nach Angaben von CoreWeave eine einzige Toolchain über die gesamte Flotte laufen kann.

Die Vera CPU ist als „bald verfügbar“ aufgeführt, Preise oder einen Starttermin nennt die Quelle nicht. CoreWeave lädt Teams, deren Sandbox-Flotten, RL-Umgebungen oder Datenpipelines allgemeine CPU-Kapazität sprengen, zur Kontaktaufnahme für die Kapazitätsplanung ein.