CoreWeave erweitert sein KI-Trainingssystem SUNK um geführten Self-Service
CoreWeave erweitert SUNK, sein Slurm-on-Kubernetes-Trainingssystem, um eine geführte Self-Service-Vorschau für die Bereitstellung und Verwaltung von Clustern über die CoreWeave-Konsole. Nach Angaben des Unternehmens soll die vom Operator unterstützte Lösung den betrieblichen Aufwand senken und zugleich die Kontrolle über große KI-Trainingslasten bewahren.
- CoreWeave testet einen geführten Self-Service für SUNK über seine Konsole.
- SUNK führt Slurm auf Kubernetes für groß angelegtes KI-Training aus.
- Das System umfasst topologiebewusstes Scheduling und automatisiertes Zustandsmanagement.
- CoreWeave berichtet von bis zu 96 % Goodput und etwa 90 Sekunden für den Neustart fehlgeschlagener Jobs.
- IBM und Cursor AI werden als SUNK-Kunden genannt.
Ein einheitliches System für Slurm-basiertes KI-Training
SUNK führt Slurm mit Kubernetes aus und kombiniert Slurms Oberfläche zur Verwaltung groß angelegter KI-Trainingsressourcen mit einem auf Kubernetes basierenden Lebenszyklusmanagement. CoreWeave zufolge soll das System cloudnative Agilität, einen vereinfachten Betrieb und eine skalierbare Verwaltung bieten, während die Trainingsinfrastruktur komplexer wird.
Das Unternehmen beschreibt SUNK als integriertes System für den produktiven Einsatz und nicht als Sammlung separater Infrastrukturebenen. Zu den Funktionen gehören topologiebewusstes Scheduling für große, synchrone Trainingslasten, automatisiertes Zustandsmanagement, Fehlerbehebung, betriebliche Transparenz und Lebenszyklusmanagement, um Cluster konsistent und aktualisierbar zu halten.
CoreWeave zufolge soll dieser Ansatz Teams dabei helfen, über zusammengefügte Infrastrukturstacks hinauszugehen. SUNK umfasst außerdem SUNK User Provisioning oder SUP, das Onboarding und Berechtigungen automatisiert und isolierte Anmeldeumgebungen bereitstellt. Nach Angaben von CoreWeave können Teams innerhalb weniger Minuten loslegen, während Unternehmen weiterhin Zugriffskontrollen und Governance behalten.
Geführter Self-Service kommt in die CoreWeave-Konsole
Die neu angekündigte geführte Self-Service-Erfahrung ist als Vorschau verfügbar. Sie bietet einen vorgegebenen Workflow für die Bereitstellung und Verwaltung von SUNK über die CoreWeave-Konsole, unterstützt durch einen Kubernetes-Operator.
CoreWeave präsentiert die Funktion als Erweiterung des Betriebsmodells von SUNK. Statt dass Teams jeden Teil einer Trainingsumgebung selbst zusammenstellen und warten müssen, soll das System einen einfacheren Zugriff auf einen produktionsbereiten Cluster ermöglichen und zugleich die für langfristige Jobs erforderliche betriebliche Disziplin wahren.
Die Ankündigung nennt kein Datum für die allgemeine Verfügbarkeit und keine weiteren Veröffentlichungsbedingungen für die Vorschau.
Für Fehler und lang laufende Workloads entwickelt
CoreWeave zufolge können Frontier-KI-Workloads über Tage oder Wochen hinweg Zehntausende GPUs umspannen. In einer solchen Umgebung können Hardwareereignisse, GPU-Nachzügler und kleine Ineffizienzen die tatsächlich nutzbare Trainingszeit verringern. SUNK soll bei anhaltender synchroner Last über Cluster mit mehreren Tausend GPUs hinweg ein wiederholbares Verhalten gewährleisten.
Für Produktiveinsätze mit lang laufenden Trainings-Workloads berichtet CoreWeave von einem Goodput von bis zu 96 %, einer 10-fach längeren mittleren Zeit bis zum Ausfall bei Clustern mit Tausend GPUs und etwa 90 Sekunden für den Neustart eines Jobs nach einem Fehler. Als Vergleich beim Mean Time to Failure nennt das Unternehmen etwa 3,66 Tage gegenüber rund 8 Stunden.
SUNK arbeitet mit CoreWeave Mission Control zusammen. Die Lösung bewertet den Zustand von Nodes, verfolgt Abweichungen bei der GPU-Leistung und erkennt Nachzügler. Nutzer können fehlerhafte Nodes leeren, Workloads neu einplanen und Fehlerdomänen isolieren, so CoreWeave. Das System verknüpft außerdem Telemetriedaten der Infrastruktur mit Jobinformationen wie Kommunikationsengpässen, GPU-Abweichungen, Speicherdruck und dem Zustand des verteilten Trainings.
Kundenbeispiele und externe Anerkennung
CoreWeave zufolge nutzen IBM und Cursor AI SUNK, um KI-Training zu skalieren, ohne eine maßgeschneiderte Infrastruktur aufbauen und warten zu müssen. Brian Belgodere, Senior Technical Staff Member bei IBM, sagte, das System unterstütze Cluster mit Tausenden GPUs. Durch das automatisierte Onboarding von Forschern könne der Zugriff zudem in weniger als einer Minute gewährt und entzogen werden.
Sam Kottler von Cursor AI sagte, SUNK habe gemeinsam genutzte Dateisysteme, eine automatisierte Nutzerbereitstellung und anpassbare Umgebungen bereitgestellt. Zudem verwies er darauf, dass die Zustandsprüfungen und Fehlerbehebungsfunktionen für Nodes in Mission Control den betrieblichen Aufwand verringerten.
CoreWeave zufolge zeichnete SemiAnalysis SUNK in seiner Bewertung ClusterMAX 2.0 als das zu diesem Zeitpunkt einzige auf dem Markt verfügbare Premium-System für einheitliches Training aus. Das Unternehmen erklärt außerdem, es sei vor Kurzem als eine der ersten NVIDIA GB200 Exemplar Clouds benannt worden, nachdem es unter realen Bedingungen die Trainingsleistungsziele von NVIDIA übertroffen hatte.
