CoreWeave stellt GTC-2025-Neuheiten vor: CAIOS, RTX PRO 6000 und NVCF-Unterstützung

Produktankündigungen auf der GTC

Laut CoreWeave ist die wichtigste Neuerung CoreWeave AI Object Storage (CAIOS), das nun allgemein verfügbar ist. Das Unternehmen beschreibt es als Object-Storage-Lösung der nächsten Generation, die auf hohe I/O-Leistung und große Datensätze in KI- und ML-Workflows ausgelegt ist. Sie biete Leistung im großen Maßstab, die Integration in bestehende Workflows und Zuverlässigkeit auf Unternehmensniveau.

Außerdem will CoreWeave neue Compute-Instanzen mit den kommenden NVIDIA RTX PRO 6000 Blackwell Server Edition-GPUs einführen. Im Vergleich zur NVIDIA L40S kann die RTX PRO 6000 laut Unternehmen bis zu 5,3-mal schnellere LLM-Inferenz und 3,5-mal schnellere Text-zu-Bild-Generierung liefern.

Auf der Softwareseite kündigte CoreWeave die Unterstützung der Softwareplattform NVIDIA AI Enterprise und von NVIDIA Cloud Functions (NVCF) auf der CoreWeave Cloud Platform an. NVCF ist eine Kerntechnologie von DGX Cloud Serverless Inference. Nach eigenen Angaben gehört CoreWeave zu den ersten Cloud-Anbietern, die NVCF auf NVIDIA GB200 NVL72 anbieten.

CoreWeave veröffentlichte außerdem Ergebnisse zur Model FLOPS Utilization (MFU). Die jüngste Studie des Unternehmens ergab auf NVIDIA-H100-GPUs eine MFU von über 50 %, was laut CoreWeave bis zu 1,2-fach höhere Leistung als bei alternativen Lösungen ermögliche.

Vorträge auf der Hauptbühne und Partner-Sessions

Führungskräfte von CoreWeave sprachen auf der NVIDIA-Hauptbühne über KI-Infrastruktur, Effizienz und Nachhaltigkeit beim Rechenzentrumsdesign sowie über die Leistung in GPU-Clustern. CTO Peter Salanki behandelte Networking im extremen Maßstab, darunter die Frage, wie CoreWeave eines der größten verfügbaren NVIDIA-Quantum-2-InfiniBand-Netzwerke umgesetzt hat.

In einer zweiten Session beschrieben Salanki, John Mancuso und Adam Canady von Jane Street, wie Jane Street die Infrastruktur von CoreWeave nutzt, um KI-Modelle für den quantitativen Handel zu trainieren und zu feintunen. Eine dritte Session, geleitet von SVP of Engineering Chen Goldberg und CPO Chetan Kapoor, drehte sich um das Laden von Modellen, Checkpointing und Flottenmanagement zur Fehlerbehandlung. Das Team teilte zudem Details zu den NVIDIA-GB200-NVL72-Clustern, die CoreWeave im vergangenen Herbst in Betrieb genommen hat.

An seinem Messestand veranstaltete CoreWeave Gespräche mit mehreren Partnern:

• IBM: Infrastruktur für das Training und Feintuning von Modellen wie IBMs Granite 3.2 sowie das neue IBM-Storage-Angebot von CoreWeave.
• Cohere: ein erster Praxiseinblick in die GB200 NVL72. Laut der Zusammenfassung zeigten frühe Benchmarks drastische Durchsatzgewinne gegenüber NVIDIA HGX H100, weitere sollen folgen.
• Rescale: ein Kamingespräch über den Boom der generativen KI, die Wirtschaftlichkeit des GPU-Zugangs und Cloud-HPC.

On-Demand-Inhalte und was sie signalisieren

CoreWeave unterstützte außerdem zwei On-Demand-Sessions. In der einen untersuchten die Solutions Architects Navarre Pratt und Jacob Feldman, wie MLOps-Teams ihre Resilienz durch Transparenz und Automatisierung verbessern können, und verwiesen dabei auf NVIDIA BlueField-3 DPUs und die Selbstheilungseigenschaften von NVIDIA Quantum-2 InfiniBand. In der anderen präsentierte Principal Product Manager Jeff Braunstein Benchmark-Ergebnisse für CoreWeave Distributed File Storage in einem Cluster mit 32.000 NVIDIA-H200-GPUs.

Das Unternehmen veranstaltete auch gesellschaftliche Events, darunter einen Networking-Abend mit NVIDIA und Dell in San Jose sowie eine Podcast-Aufzeichnung mit Solidigm an seinem Stand.

Für Kunden deuten die Ankündigungen auf ein breiteres CoreWeave-Angebot bei Storage, Compute und Tools für serverlose Inferenz hin. CoreWeave beschreibt die Botschaft der Konferenz als wachsende Nachfrage nach KI-Rechenleistung, getrieben von Reasoning-KI und agentenbasierter KI. Die genannten Leistungszahlen sind Angaben des Unternehmens, und die RTX-PRO-6000-Instanzen sind als kommend, nicht als verfügbar beschrieben.