CoreWeave berechnet inaktive KI-Daten zu niedrigeren Tarifen und verspricht bis zu 75 Prozent Ersparnis

Drei Abrechnungsstufen nach Zugriffshäufigkeit

Laut CoreWeave nutzt AI Object Storage eine Zugriffsverfolgung in Echtzeit, um die Abrechnung über drei Preisstufen hinweg anzupassen: Hot für 0,06 US-Dollar pro GB und Monat, Warm für 0,03 US-Dollar pro GB und Monat sowie Cold für 0,015 US-Dollar pro GB und Monat.

Nach sieben Tagen ohne Zugriff wechseln Daten von Hot zu Warm, nach mehr als 30 Tagen von Warm zu Cold. Das geschehe ohne manuelle Verwaltung und ohne Verzögerung durch Rehydrierung, so das Unternehmen.

CoreWeave betont, dass das System Daten weder archiviert noch verschiebt. Nach eigener Darstellung erkennt der Dienst, welche Daten inaktiv sind, und berechnet dafür schlicht keinen Aufschlag. Jedes Objekt bleibt mit voller Line-Rate-Performance abrufbar, und zwar ohne Abruf-, Egress- oder Anfragegebühren, wie das Unternehmen erklärt.

Das Problem: KI-Artefakte sammeln sich im Hot Storage

CoreWeave argumentiert, dass jedes Fine-Tuning Gigabytes an „Just-in-case“-Artefakten wie Checkpoints, Modellgewichten und Datensätzen erzeugt. Teams behalten sie oft im Hot Storage, um Verzögerungen durch Rehydrierung zu vermeiden. Das treibt die Kosten in die Höhe, überfüllt Container und verlangsamt Verzeichnisauflistungen.

Das Unternehmen verweist auf einen Branchentrend, wonach rund 80 Prozent der Daten zu jedem Zeitpunkt inaktiv sind, und räumt zugleich ein, dass es keine öffentlichen Benchmarks gibt, die dies im großen Maßstab belegen. Außerdem zeigt es in einer Tabelle drei anonymisierte Kundenszenarien:

• Kunde A: insgesamt 65 PB, 5 PB aktiv (7 %), 60 PB inaktiv (93 %)
• Kunde B: insgesamt 8 PB, 2 PB aktiv (25 %), 6 PB inaktiv (75 %)
• Kunde C: insgesamt 17,5 PB, 3,5 PB aktiv (20 %), 14 PB inaktiv (80 %)

Alte Checkpoints zu löschen bedeute, Daten für künftiges Training zu verlieren, und führe zu Problemen wie verlorenen Audit-Trails, uneinheitlicher Aufbewahrung und zusätzlicher Bereitschaftslast durch die Pflege von Löschskripten, so CoreWeave.

Wie sich CoreWeave mit den Hyperscalern vergleicht

Das klassische Cloud-Tiering sei für Allzweck-Objektspeicher entwickelt worden und nicht für iteratives maschinelles Lernen, sagt das Unternehmen. Es nennt drei Schwächen von Intelligent Tiering: Es arbeite nicht vollständig automatisch und erfordere Opt-in-Tagging und Bucket-Richtlinien, es bringe Verwaltungs-, Anfrage-, Abruf- und Egress-Gebühren mit sich, und es könne zu uneinheitlichen Lesezeiten führen, wenn Checkpoints aus einer inaktiven Stufe geladen werden.

Zur Veranschaulichung der Kostenlücke legt CoreWeave einen Vergleich auf Basis eigener Annahmen vor: 20 PB Daten, eine durchschnittliche Dateigröße von 1 MB, monatlich 20 % hochgeladene, 30 % gelesene und 30 % aus der Cloud übertragene Daten (Egress). Die ausgewiesenen Gesamtkosten lauten:

• CoreWeave: 544.526 US-Dollar, das entspricht 0,026 US-Dollar pro GB und Monat
• AWS S3 Standard: 779.027 US-Dollar, bzw. 0,037 US-Dollar
• AWS S3 Express: 2.643.683 US-Dollar, bzw. 0,126 US-Dollar
• GCP GCS Standard: 1.009.713 US-Dollar, bzw. 0,048 US-Dollar
• Azure Blob Hot LRS: 786.113 US-Dollar, bzw. 0,037 US-Dollar

In diesem Szenario enthalten die Summen der Wettbewerber Egress-Gebühren von 314.573 US-Dollar bei AWS und Azure sowie 503.316 US-Dollar bei GCP, während CoreWeave keine Egress-, Anfrage-, Abruf- oder Tiering-Gebühren ausweist. Die Zahlen stammen aus der eigenen Analyse des Unternehmens.

Was das für KI-Teams bedeutet

Für Teams, die große Trainings- und Fine-Tuning-Pipelines betreiben, lautet das Versprechen, vollständige Checkpoint-Historien für Audits und Rollbacks vorhalten zu können, ohne für selten gelesene Daten Hot-Preise zu zahlen. Als weitere Vorteile nennt CoreWeave eine gleichbleibende Performance bei aktiven und inaktiven Daten, den Wegfall manueller Aufräumskripte und eine einfachere Governance.

Die Einsparversprechen beruhen auf den eigenen Annahmen und Kundenbeispielen von CoreWeave. Die tatsächlichen Ergebnisse hängen daher davon ab, wie groß der Anteil inaktiver Daten im jeweiligen Team ist und wie oft darauf zugegriffen wird. Das Unternehmen hat außerdem ein E-Book veröffentlicht, das tiefer in das Thema einführt: Beyond the Hot Tier: Cut AI Storage Costs, Accelerate Breakthroughs.