CoreWeave erhält 100 Millionen US-Dollar von Magnetar und plant NVIDIA-H100-Zugang im ersten Quartal 2023

Finanzierung für mehr Infrastrukturkapazität

Laut CoreWeave wurde die Investition von 100 Millionen US-Dollar durch Magnetar im Dezember 2022 bekannt gegeben und fließt direkt in den Ausbau der Infrastruktur. Das Unternehmen erklärt, dadurch große Kapazitäten an GPU-beschleunigter NVIDIA-Rechenleistung für KI- und Machine-Learning-Unternehmen, VFX-Studios sowie andere Unternehmenskunden und Start-ups bereitstellen zu können.

CoreWeave begründet das Kapital mit der steigenden Nachfrage. Das Unternehmen argumentiert, dass mit der Weiterentwicklung von KI und Machine Learning auch der Bedarf an Infrastruktur wächst und dass Start-ups und Unternehmen zuverlässige, flexible und hochverfügbare Rechenressourcen zu erschwinglichen Preisen benötigen. Als Beleg für das Tempo verweist es auf aktuelle Ereignisse: ChatGPT, das große Sprachmodell von OpenAI, gewann in der ersten Woche nach dem Start 1 Million neue Nutzer, und KI-generierte Selbstporträts von Lensa AI, das auf dem Modell Stable Diffusion basiert, überschwemmten die sozialen Netzwerke.

CoreWeave führt zudem GPT-NeoX-20B an, das nach eigenen Angaben Anfang des Jahres zum größten öffentlich verfügbaren Sprachmodell wurde. EleutherAI trainierte es auf dem Trainingscluster von CoreWeave mit NVIDIA A100 Tensor Core GPUs. Seitdem sei, so das Unternehmen, die Nachfrage nach seiner serverlosen Kubernetes-Infrastruktur bei Unternehmen und Forschern gewachsen, die Produkte auf Basis von LLMs entwickeln.

NVIDIA H100 kommt in die CoreWeave Cloud

Im ersten Quartal 2023 sollen Kunden laut CoreWeave Zugriff auf NVIDIA H100 Tensor Core GPUs in der CoreWeave Cloud erhalten. Damit gehöre das Unternehmen zu den ersten Anbietern, die Cloud-Instanzen von Supercomputern auf Basis der NVIDIA H100 anbieten, so CoreWeave.

Kunden können H100-Kapazität laut CoreWeave schon heute reservieren. Sie soll im ersten Quartal 2023 in großem Umfang verfügbar sein, zu Preisen ab 2,23 $/Std.

Der Beitrag wiederholt Leistungsangaben zum Chip. Die H100 verfügt über Tensor Cores der vierten Generation und die Transformer Engine mit FP8-Präzision und bietet bis zu 9-mal schnelleres Training sowie eine 30-fache Beschleunigung bei der Inferenz großer Sprachmodelle. Für Anwendungen im Hochleistungsrechnen liefere sie bis zu 7-mal höhere Leistung, heißt es im Beitrag.

Neue Produkte, Kunden und Expansion im Jahr 2022

CoreWeave nannte mehrere Neuerungen des Jahres:

• Objektspeicher für große Mengen unstrukturierter Daten, ab 0,03 $ / GB pro Monat, ohne Zugriffs- oder Übertragungsgebühren.
• Integrationen mit Determined.AI für KI-Training im großen Maßstab, Zeet für die Verwaltung von Kubernetes-Infrastruktur und EleutherAI, um Open-Source-LLMs zugänglicher zu machen.
• KI-Beispiele für das Feintuning und das Bereitstellen von LLMs und generativen KI-Modellen wie BLOOM und Stable Diffusion.
• Goose AI, eine vollständig verwaltete API zum Bereitstellen vortrainierter Open-Source-Modelle.

Das Unternehmen startete außerdem das CoreWeave Accelerator Program, das Start-ups bedarfsgerecht und skalierbar GPU-beschleunigte NVIDIA-Rechenleistung sowie Sichtbarkeit und Partnerschaftsmöglichkeiten bieten soll.

Zwei Kunden wurden hervorgehoben. Spire Animation Studios stellte auf der NVIDIA GTC 2022 einen Cloud-nativen Workflow vor, der mit Unreal Engine für einen animierten Spielfilm entstand. Rajesh Sharma, VP of Engineering bei Spire, sagte, das Team könne interaktiv iterieren, statt „2 oder 3 Stunden auf das Ergebnis eines Renderings zu warten wie in einer herkömmlichen Umgebung“. Yasu Seno und Bit192, Inc. trainierten mit einer leicht modifizierten GPT-NeoX-Codebasis ein japanisches Modell mit 20 Milliarden Parametern von Grund auf und veröffentlichten AI Novelist, einen Schreibassistenten, der von professionellen Autoren, Redakteuren und Gelegenheitsnutzern in ganz Japan verwendet wird.

Auch physisch wuchs CoreWeave: Das Unternehmen eröffnete ein Rechenzentrum in der Region New York City (LGA1), das nach eigenen Angaben Latenzen von unter 1 ms nach Manhattan bietet. Die neue Firmenzentrale befindet sich in Roseland, New Jersey, hinzu kommen Büros in Brooklyn, New York, und Philadelphia, Pennsylvania. Das Team ist auf mehr als 70 Beschäftigte in den USA gewachsen.

Was das für Nutzer bedeutet

Für KI-Teams, VFX-Studios und Start-ups, die auf gemietete GPU-Kapazität angewiesen sind, signalisiert der Beitrag, dass CoreWeave Anfang 2023 H100-Instanzen anbieten will und über frisches Kapital zum Ausbau verfügt. Kapazität lässt sich bereits jetzt reservieren, der genannte Einstiegspreis liegt bei 2,23 $/Std. Die Leistungsangaben und die Aussage, „einer der ersten Anbieter“ zu sein, stammen von CoreWeave selbst. Wie viel Kapazität tatsächlich verfügbar sein wird, geht aus dem Beitrag nicht näher hervor.