CoreWeave Forge verbindet den gesamten KI-Verbesserungskreislauf in einer Umgebung

Ein verbundener Kreislauf statt eines Flickenteppichs aus Werkzeugen

Laut CoreWeave deckt Forge den Betrieb von Modellen in der Produktion, die Beobachtung von Gesprächen im Live-Betrieb, das Kuratieren von Daten, den Bau der nächsten Version und die Evaluierung des Endprodukts vor der Auslieferung ab. Viele Teams durchliefen diesen Zyklus bereits, so das Unternehmen, allerdings über getrennte Systeme und manuelle Abläufe hinweg, und sie kämen dabei häufig an den Übergaben zwischen den Werkzeugen ins Stocken.

CoreWeave beschreibt das Problem konkret. Sobald ein Modell in Produktion ist, übergeben KI-Ingenieure, die wissen, wie gute Ergebnisse aussehen, es an ein Anwendungs- oder SRE-Team. Anwendungs-Traces landen in einem Observability-Dashboard, das auf Verfügbarkeit ausgelegt ist: Es zeigt, dass ein Dienst gesund ist, sagt aber nichts über Antwortqualität oder Nutzerstimmung aus. Evaluierungs-Suiten veralten, weil auf der Produktionsseite niemand für ihre Pflege zuständig ist, und die Forschenden sehen den Datenverkehr nicht.

Forge soll diese manuellen Übergaben verringern. CoreWeave zufolge bleibt die Plattform offen für das Modell, das Framework oder die Cloud, die ein Team bereits einsetzt.

Fünf Phasen, jeweils mit eigenen Werkzeugen

Das Unternehmen gliedert den Zyklus in Betreiben, Beobachten, Kuratieren, Verbessern und Evaluieren. Für jede Phase benennt es eine konkrete Herausforderung, vom Erfassen der richtigen Signale bis zur Definition von Verbesserungen anhand klarer Maßstäbe statt subjektiver Einschätzung.

Mehrere Komponenten sind neu oder jetzt neu verfügbar:

• CoreWeave Agent Lens (neuer Dienst) verfolgt jeden Schritt, jede Entscheidung und jeden Tool-Aufruf von Anfang bis Ende. Monitore bewerten den Live-Datenverkehr unter menschlicher Aufsicht, sodass priorisierte Fehler früh samt Empfehlungen sichtbar werden. CoreWeave gibt an, die Fehlererkennung verbessere sich um 20 Prozent und Probleme würden zur Hälfte der Kosten behoben.
• CoreWeave ARIA (jetzt allgemein verfügbar) hilft Nutzern, Läufe zu analysieren, Experimente vorzuschlagen und Codeänderungen zu empfehlen, die in GitHub gespeichert werden.
• CoreWeave Sandboxes (jetzt allgemein verfügbar) führt Agenten, Tool-Aufrufe, RL und Evals in isolierten CPU- oder GPU-Umgebungen aus.
• Model Distillation (neuer Dienst) trainiert ein kleineres Open-Weights-Modell mit den Ausgaben eines größeren Modells für eine Aufgabe, die sich in der Produktion bereits bewährt hat, und vergleicht es anschließend direkt mit dem aktuellen Modell.
• CoreWeave Notebooks (neuer Dienst) bietet verwaltete Python-Notebooks, um Evals und eigene Analysen pro Modell und pro Agent zu teilen.

Inferenz, Training und ein zentrales Referenzsystem

Zu Forge gehört außerdem CoreWeave Inference, das führende Open-Weights-Modelle über Serverless Inference oder, für größere Workloads, über Dedicated Inference auf isolierter Infrastruktur bereitstellt. Weights & Biases Models deckt Experiment-Tracking, Hyperparameter-Sweeps und automatisierte Workflows ab und ist mit ARIA integriert, um Autoresearch zu unterstützen, also die autonome Verbesserung eines Modells anhand erkannter Signale.

Post-Training nutzt das eigene Produktionssignal eines Teams, um die Modellqualität zu steigern sowie Latenz und Kosten zu senken, und zwar ohne Trainingscluster. Mit Serverless SFT und Serverless RL können Nutzer eigene Trainingsrezepte ausprobieren.

CoreWeave Registry dient als zentrale Wahrheitsquelle für Modelle, Agenten und Datensätze. Laut CoreWeave bleiben alle Datensätze, Evaluierungen, Modellversionen, Traces und Deployments miteinander verknüpft, sodass Teams nachvollziehen können, was sich geändert hat, warum und ob sich die Ergebnisse verbessert haben.

Was das für KI-Teams bedeutet

CoreWeaves Argument lautet, dass ein engerer Kreislauf mit jedem Zyklus die Zeit von einem Produktionsproblem bis zur validierten Lösung verkürzt, oder in den Worten des Unternehmens: „Je mehr ihr ausliefert, desto schneller verbessert ihr euch.“ Für Teams, die mehr Zeit mit der Pflege von Werkzeugen und der Koordination von Übergaben verbringen als mit der Verbesserung ihrer Anwendungen, positioniert sich Forge als Mittel, dieses Verhältnis zu verschieben. Die Leistungszahlen zu Agent Lens stammen vom Unternehmen selbst; wie sie gemessen wurden, geht aus der Quelle nicht hervor.