CoreWeave bietet Determined AI für großskaliges Training per Mausklick an

Was die Integration bietet

Determined ist eine Plattform für das Training von Deep-Learning-Modellen. Sie vereint leistungsstarkes verteiltes Training, Hyperparameter-Optimierung, GPU-Scheduling und Modellverwaltung in einer Umgebung. Nach Angaben des Unternehmens können sich Forscherinnen, Forscher und Wissenschaftler dadurch auf die Entwicklung von Modellen konzentrieren, statt sich um die Infrastruktur zu kümmern.

CoreWeave zufolge haben Kunden nun mit einem Klick Zugriff auf die Ressourcen von Determined AI. Nutzer binden eine kleine Menge Code ein, und das Projekt läuft innerhalb von Sekunden. Determined soll es zudem einfach machen, Workstations oder KI-Cluster einzurichten, zu konfigurieren, zu verwalten und zu teilen, egal ob sie lokal (On-Premises) oder in der Cloud betrieben werden.

Zu den in der Ankündigung genannten Vorteilen zählen:

• Experimente nachverfolgen und reproduzieren
• Genauere Modelle entwickeln
• Mehr aus jeder GPU herausholen
• Die Produktivität der Entwickler steigern
• Die Time-to-Market verkürzen
• Die Ressourcenauslastung verbessern
• Risiken verringern

Angebot für Startups und Kostenversprechen

CoreWeave argumentiert, dass die Bandbreite und der Umfang seiner GPU-Rechenleistung die Infrastruktur gut für das Training großer Modelle geeignet machen und die Integration die Bereitstellung erleichtert. Kunden könnten die benötigten Ressourcen bei Bedarf abrufen, und zwar zu einem Bruchteil der Kosten im Vergleich zu den Mega-Cloud-Anbietern, so das Unternehmen.

Die Ankündigung richtet sich besonders an Startups. Das Training eines Modells sei oft der erste Schritt vor dem Produktstart, und die meisten großen Cloud-Anbieter verlangten für leistungsstarke GPUs einen erdrückend hohen Preis, so CoreWeave. Über die Integration können Startups zwischen verschiedenen GPUs wählen, darunter A100 und A40, die in großem Umfang verfügbar sind, um auf Geschwindigkeit und Effizienz zu optimieren. CoreWeave beschreibt das Ergebnis als besseres leistungsbereinigtes Preis-Leistungs-Verhältnis.

Das Unternehmen betont außerdem, die Plattform selbst verbrauche nach der Bereitstellung nur minimale Ressourcen. Solange keine Experimente laufen, würden keine GPU-Ressourcen beansprucht. Das verhindere laut CoreWeave Verschwendung und ungenutzte Rechenleistung, wie sie beim Ausführen von Experimenten in virtuellen Maschinen anfalle.

Verteiltes Training und Framework-Unterstützung

Determined AI auf CoreWeave unterstützt verteiltes Training mit mehreren GPUs und mehreren Knoten (Multi-Node) von Haus aus. Die Plattform unterstützt viele gängige Frameworks, darunter GPT-Neo-X, mit dem sich das EleutherAI-20B-Modell trainieren und feinabstimmen lässt.

CoreWeave verweist zudem auf eine Demonstration von Rahul Talari, Senior Machine Learning Engineer des Unternehmens. Er zeigt, wie sich Determined AI auf CoreWeave bereitstellen lässt, und führt mehrere Trainingsjobs mit 16 bis 96 parallelen GPUs aus.

Was das für Nutzer bedeutet

Für Teams, die große Modelle trainieren, soll die Integration die Einrichtungszeit verkürzen und die GPU-Kosten an aktive Experimente koppeln. Die Preis- und Effizienzvergleiche stammen von CoreWeave selbst, und die Ankündigung nennt weder konkrete Preise noch Benchmark-Werte. Teams, die das Angebot prüfen, müssen Kosten und Leistung daher für ihre eigenen Workloads vergleichen.