CoreWeave erweitert seine KI-Cloud um NVIDIA AI Enterprise und Cloud Functions

Was CoreWeave neu anbietet

Nach Angaben von CoreWeave soll Kunden der Aufbau, der Betrieb und die Verwaltung von KI-Anwendungen erleichtert werden. Das Unternehmen argumentiert, dass die Optimierung und Skalierung von Inferenz immer komplexer werde, je leistungsfähiger KI-Modelle würden und je schneller sich ihr Einsatz verbreite. Kunden verbrächten oft viel Zeit mit der Verwaltung von Deployments und hätten Schwierigkeiten, die Leistung beim Ausliefern von Modellen zu optimieren.

NVIDIA AI Enterprise wird in der Ankündigung als cloudnative Softwareplattform beschrieben, die Entwicklung und Bereitstellung produktionsreifer, durchgängiger Pipelines für generative KI vereinfacht. Sie umfasst NVIDIA NIM Microservices, NVIDIA NeMo, KI-Frameworks, Referenzanwendungen und Workflows, SDKs, Bibliotheken sowie Infrastrukturmanagement.

NVIDIA Cloud Functions, eine Kerntechnologie von DGX Cloud Serverless Inference, ist eine automatisch skalierende Lösung für KI-Inferenz. Laut CoreWeave vereinfacht NVCF das Hosting von Inferenz-Workloads wie NIM Microservices, weil sich die Zeit bis zur Bereitstellung optimierter Infrastruktur verkürzt. NIM Microservices sind containerisierte KI-Modelle und Inferenz-Engines, die sich auf NVIDIA-GPUs bereitstellen und skalieren lassen.

So starten Kunden

Die Unterstützung läuft über den CoreWeave Kubernetes Service (CKS). CoreWeave zufolge bringt CKS sofort einsetzbare Komponenten mit, darunter optimierte Netzwerk- und Speicherschnittstellen, GPU-Treiber, eine Slurm-on-Kubernetes-Integration und integrierte Observability-Tools.

Der in der Ankündigung beschriebene Einrichtungsprozess umfasst mehrere Schritte:

• Kunden installieren den NVIDIA Cluster Agent Operator, der über die NVIDIA-Plattform NGC verfügbar ist, damit ein bestehender CKS-Cluster als Deployment-Ziel für NVCF dienen kann.
• Mit einem registrierten CKS-Cluster und installiertem Cluster Agent lässt sich über die NVIDIA-Cloud-Functions-Konsole oder die NGC CLI eine NVCF-Funktion erstellen und bereitstellen.
• Beim Erstellen einer Funktion in der Benutzeroberfläche können Kunden unter „Function Type“ die Option „Elastic NIM“ wählen, um leistungsoptimierte NVIDIA NIM Microservices zu nutzen, die Teil von NVIDIA AI Enterprise sind.

NVCF auf GB200 NVL72

CoreWeave hebt seine Arbeit mit NVIDIA GB200 NVL72 hervor und verweist darauf, als erster Cloud-Anbieter Instanzen auf Basis dieses Systems allgemein verfügbar gemacht zu haben. Im Zuge der Vorbereitung hätten die eigenen Ingenieure NVCF auf GB200-NVL72-beschleunigten CoreWeave-Instanzen mit CKS bereitgestellt und betrieben.

Die Ingenieure erstellten eine neue Cloud Function für ein benutzerdefiniertes Modell und stellten sie auf diesen Instanzen bereit, sodass sie aufrufbar ist. Ein Bild in der Ankündigung zeigt ein DeepSeek-R1-Modell, das auf einer von NVIDIA GB200 NVL72 beschleunigten CoreWeave-Instanz läuft.

Was das für Kunden bedeutet

Für Teams, die bereits auf CoreWeave arbeiten, bietet das Update einen weiteren Weg, Inferenz-Workloads mit NVIDIAs Software-Stack bereitzustellen, ohne die CKS-Umgebung zu verlassen. CoreWeave zufolge soll die Kombination Kunden helfen, Lösungen mit höherer Leistung und zu geringeren Kosten auf den Markt zu bringen. Belege dafür, etwa Benchmark-Werte oder Preise, nennt die Ankündigung allerdings nicht.

Das Unternehmen lädt Partner und Kunden ein, sich zu melden, um das Angebot kennenzulernen. Zu Preisen oder zu Regionen, in denen die Unterstützung verfügbar ist, macht die Ankündigung keine Angaben.