CoreWeave macht NVIDIA HGX B300 für Agentic AI allgemein verfügbar

Das bietet CoreWeave

CoreWeave argumentiert, dass der Aufstieg von Agentic AI die Anforderungen an die Cloud in Richtung Inferenz verschiebt. Lange Kontextfenster benötigen demnach mehr Speicher, mehrstufiges Schlussfolgern hält GPUs länger ausgelastet, und die Koordination von Agenten setzt latenzarme Verbindungen mit hoher Bandbreite über große Cluster hinweg voraus.

NVIDIA HGX B300 ist die Antwort des Unternehmens auf diese Anforderungen. Laut CoreWeave verdoppelt das System die Interconnect-Geschwindigkeit durch NVIDIA Quantum-X800 InfiniBand, NVIDIA BlueField-3 Data Processing Units (DPUs) und 800 Gbps schnelle NVIDIA ConnectX-8 SuperNICs. Zudem steigt die GPU-Speicherkapazität gegenüber der NVIDIA HGX B200 um 50 Prozent, und auch die NVFP4-Inferenzleistung wird verbessert.

Cursor bewegt sich laut CoreWeave bereits in Richtung Produktions-Workloads auf der neuen Hardware.

Hardware-Spezifikationen und Netzwerkdesign

Die HGX B300 verfügt über 270 GB Speicher, gegenüber 180 GB bei der HGX B200. Laut CoreWeave lassen sich dadurch größere Modelle und längere Kontextfenster direkt im Speicher mit hoher Bandbreite ausführen, was die Abhängigkeit von externen Speicherebenen verringert. Die NVFP4-Leistung steigt nach Angaben des Unternehmens von 9 auf 14 PFLOPs.

Für das Training behält die HGX B300 dasselbe Leistungsprofil bei hoher Genauigkeit wie die HGX B200 bei FP32, FP16, BF16 und FP8. Beide Systeme bieten 1,8 TB/s Interconnect-Bandbreite pro GPU, 14,4 TB/s aggregierte NVSwitch-Bandbreite und 7,7 TB/s Speicherbandbreite.

In der Vergleichstabelle von CoreWeave steht ein GPU-Gesamtspeicher von 2,1 TB für die HGX B300 gegenüber 1,4 TB für die HGX B200 sowie eine Netzwerkbandbreite von 1,6 Tb/s gegenüber 0,8 Tb/s. Die Attention-Leistung wird mit 2x gegenüber 1x angegeben.

Beim Netzwerk setzt die Infrastruktur von CoreWeave nach eigenen Angaben auf blockierungsfreie NVIDIA Quantum X-800 InfiniBand- und RoCE-Fabrics in einer Fat-Tree-Architektur. Das Unternehmen gibt an, dass dies die doppelte Bandbreite von Knoten zu Knoten über Cluster mit mehreren tausend GPUs ermöglicht, ohne überbuchte Verbindungen.

Plattform-Tools und Kundenstimmen

CoreWeave kombiniert die Hardware mit einem eigenen Software-Stack. Mission Control soll die Verantwortung für die Gesundheit der Cluster vom Kunden auf CoreWeave verlagern. Laut Unternehmen sind HGX-B300-Instanzen in die Lifecycle-Controller der Flotte integriert, sodass Teams „innerhalb von Stunden, nicht Wochen“ mit Training oder Fine-Tuning beginnen können.

• CoreWeave Kubernetes Service (CKS): Kubernetes-native Orchestrierung zum Bereitstellen, Skalieren und Verwalten von Agenten-Workflows.
• Slurm on Kubernetes (SUNK): ermöglicht es, mehr Experimente parallel auszuführen und dabei die GPU-Effizienz zu maximieren.
• W&B Weave: durchgängiges Tracing von Agentenläufen, um Fehler in Zwischenschritten des Schlussfolgerns zu diagnostizieren.
• CoreWeave AI Object Storage: Geschwindigkeiten von bis zu 7 GB/s pro GPU, damit NVIDIA Blackwell Ultra GPUs nicht auf Speicher oder Netzwerk warten müssen.

Das Unternehmen nennt zudem einen Goodput von 96 Prozent, was nach eigener Aussage bedeutet, dass nahezu die gesamte angeforderte Rechenleistung in nützliche Arbeit umgesetzt wird.

Aman Sanger, Mitgründer von Cursor, sagte, das Unternehmen habe bereits Produktions-Workloads mit CoreWeave auf NVIDIA HGX B200 betrieben. Beim Übergang zu B300 könne sich das Team dank dieses „bewährten Betriebsmodells und der Kontinuität in der Umsetzung“ auf den Aufbau von KI-Systemen zur Codegenerierung konzentrieren. Orian Leitersdorf, Chief Scientist bei Decart, verwies auf die HGX B300 und die kommende NVIDIA-Plattform Vera Rubin als Grundlage für generative und agentische KI in Echtzeit und im großen Maßstab.

Was das für KI-Teams bedeutet

Für Teams, die Agentensysteme entwickeln, eröffnet die Verfügbarkeit den Zugang zu einer GPU-Generation mit mehr Speicher pro Beschleuniger und höherem NVFP4-Durchsatz, bereitgestellt mit dem Managed Operations und den Tools von CoreWeave. Die Leistungsangaben stammen aus den eigenen Benchmarks von CoreWeave gegenüber der älteren HGX H200 und sind damit Herstellerangaben, keine unabhängigen Ergebnisse.

Die Markteinführung passt außerdem zu einer Botschaft, die CoreWeave rund um die NVIDIA GTC 2026 verbreitet hat. Dort bezeichnete das Unternehmen den Start der HGX B300 als eine seiner wichtigsten Infrastruktur-Ankündigungen für Teams, die von der Experimentierphase in die Produktion wechseln.