CoreWeave will NVIDIA BlueField-4 DPUs in seine KI-Cloud integrieren
CoreWeave will den DPU der nächsten Generation von NVIDIA, BlueField-4, in seine KI-Cloud-Plattform integrieren und nennt dafür sechsfache Rechenleistung und 800 Gb/s Durchsatz. Der Chip soll nach Angaben des Unternehmens Netzwerk, Speicher, Sicherheit und Auslastung für Kunden verbessern, die große KI-Workloads betreiben.
- CoreWeave plant, NVIDIA BlueField-4 DPUs in seine KI-Cloud-Plattform zu integrieren.
- Laut CoreWeave bietet BlueField-4 sechsfache Rechenleistung und 800 Gb/s Durchsatz.
- CoreWeave nutzt nach eigenen Angaben bereits BlueField-DPUs in jedem Server, um Netzwerk-, Sicherheits- und Speicheraufgaben auszulagern.
- Das Unternehmen betont eine hardwarebasierte Mandantentrennung mit NVIDIA DOCA und EVPN VXLAN.
- Zu Verfügbarkeit und Preisen enthält die Ankündigung keine Angaben.
Was BlueField-4 laut CoreWeave bietet
In einem Blogbeitrag beschreibt CoreWeave NVIDIA BlueField-4 als Generationssprung bei der DPU-Leistung: mit sechsfacher Rechenleistung und 800 Gb/s Durchsatz. Eine DPU ist ein Prozessor, der Infrastrukturaufgaben von der Haupt-CPU übernimmt. CoreWeave stellt den neuen Chip als logischen nächsten Schritt für seine Plattform dar, die das Unternehmen als Essential Cloud for AI bezeichnet.
Das Argument für speziell gebaute Infrastruktur beruht laut CoreWeave auf dem Wachstum der KI-Modelle und der Komplexität ihrer Workloads. Klassische Cloud-Architekturen stießen demnach an ihre Grenzen, wenn beides zunehme.
Wie CoreWeave BlueField bereits einsetzt
CoreWeave erklärt, seit Jahren BlueField-DPUs in jeden seiner Server zu integrieren. Die DPUs übernehmen Aufgaben rund um Netzwerk, Sicherheit und Speicherverwaltung von den CPUs, sodass sich die GPUs auf Training und Inferenz konzentrieren können. Nach Angaben des Unternehmens baut BlueField-4 diesen Ansatz aus und ermöglicht schnelleren Datenzugriff, geringere Latenz und eine stärkere Mandantentrennung in KI-Clustern mit mehreren Mandanten.
Gemeinsam mit NVIDIA habe CoreWeave mithilfe des Software-Frameworks NVIDIA DOCA zentrale Netzwerk- und Sicherheitsfunktionen direkt auf die DPUs verlagert. Das erlaube eine hardwarebasierte Mandantentrennung, bei der EVPN VXLAN für jeden Kunden separate, sichere virtuelle Netzwerke schafft. Das Ergebnis seien keine Software-Engpässe und keine „lauten Nachbarn“, so das Unternehmen, das sich damit von universellen, älteren Hyperscaler-Clouds abgrenzt.
Drei Vorteile, die CoreWeave hervorhebt
CoreWeave nennt drei Bereiche, in denen BlueField-4 Kunden helfen soll:
- Leistung und Skalierung: Die sechsfache Leistung und der Durchsatz von 800 Gb/s sollen die Netzwerk- und Speicher-Fabrics von CoreWeave stärken, mit schnellerem Modellzugriff und geringerer Inferenz-Latenz bei anspruchsvollen KI-Workloads.
- Sicherheit: Mit der neuen BlueField Advanced Secure Trusted Resource Architecture will das Unternehmen sein Zero-Trust-Infrastrukturmodell um eine feinere, hardwarebasierte Isolation erweitern.
- Effizienz: Wenn mehr Infrastrukturaufgaben auf die DPU wandern, stehen laut CoreWeave mehr CPU- und GPU-Zyklen für die Rechenjobs der Kunden zur Verfügung. Das Unternehmen erwartet dadurch eine höhere Auslastung und eine bessere Wirtschaftlichkeit.
Was das für Kunden bedeutet
Der Beitrag ist eher eine Absichtserklärung als ein detaillierter Einführungsplan. Zu Verfügbarkeit, Preisen oder Benchmark-Ergebnissen von BlueField-4 bei CoreWeave macht er keine Angaben. Die Vorteile bei Leistung und Effizienz bleiben damit vorerst Behauptungen des Unternehmens.
Für Entwickler, Forscher und Unternehmen mit großen KI-Workloads lautet das Versprechen von CoreWeave: eine Infrastruktur, die in den Hintergrund tritt („fades into the background“, wie es das Unternehmen formuliert) und sie schneller vorankommen lässt. Als Beleg für seine Leistungsfähigkeit verweist CoreWeave zudem auf seine MLPerf-Ergebnisse bei Training und Inferenz und lädt Interessenten ein, mit seinen KI-Experten zu sprechen.
