CoreWeave verbindet Training und Inferenz von KI-Agenten in einem Produktionskreislauf

Von der Offline-Evaluierung zum geschlossenen Kreislauf

Laut CoreWeave wurden KI-Agenten bis vor Kurzem so entwickelt: Man führte aufwendige Offline-Evaluierungen gegen gelabelte Datensätze durch, nahm Änderungen vor und wiederholte den Zyklus, bis Kennzahlen wie Qualität, Genauigkeit, Kosten und Stil in akzeptablen Bereichen lagen. Erst danach gingen die Agenten in Produktion. Das Unternehmen hält diesen Ansatz für langsam und anfällig für mangelnde Zuverlässigkeit oder sogar Ausfälle, da gelabelte Datensätze praktisch nicht jedes reale Szenario abdecken können.

CoreWeave nennt seine Antwort darauf den Superintelligence Loop, einen geschlossenen Feedback-Kreislauf zwischen Training und Inferenz. Er kombiniert vier Elemente: serverloses Reinforcement Learning (RL), Produktionsinferenz im großen Maßstab, flottenweite Observability für Agenten und Infrastruktur sowie autonome Verbesserung auf Basis realer Daten.

Serverless RL und Produktionsinferenz

Beim Reinforcement Learning lernen Agenten, indem sie mit einer Umgebung interagieren und dafür Belohnungen oder Strafen erhalten. Laut CoreWeave war RL für die meisten Unternehmen bislang unerreichbar, weil es anspruchsvoll und GPU-intensiv ist. Der Dienst Serverless RL soll LLMs per Post-Training für zuverlässige Ergebnisse bei mehrstufigen agentischen Aufgaben trainieren, ohne dass Teams Infrastruktur bereitstellen und verwalten müssen.

• Der Dienst skaliert elastisch: hoch bei Bedarf und auf null herunter, wenn er nicht genutzt wird.
• CoreWeave betreibt und wartet die Infrastruktur und hält die Jobs ausfallsicher.
• Nach Angaben des Unternehmens bündelt das Backend Jobs, um die Auslastung zu maximieren. Das senke die Kosten um bis zu 40 Prozent und beschleunige das Training um etwa das 1,4-Fache, ohne Qualitätsverlust.
• Rollouts laufen auf einem gemeinsam genutzten GPU-Cluster mit Abrechnung pro Token.

Training und Inferenz laufen auf getrennten, dauerhaft aktiven CoreWeave-Instanzen. Änderungen an Rollout- oder Trainingsschleifen greifen deshalb laut Unternehmen in Sekunden statt in Minuten.

Auf der Inferenzseite bildet CoreWeave Inference die produktive Ausführungsebene. Teams können zwischen Serverless Inference, Dedicated Inference und Inference on CKS wählen. Integriertes Monitoring macht Leistung, Skalierungsverhalten und Systemzustand sichtbar, sodass Teams Probleme früh erkennen und Produktions-SLOs im großen Maßstab einhalten können.

Observability und autonome Verbesserung

W&B Weave übernimmt die Observability für Agenten in Produktion. Es liefert sofort einsetzbare Signale, um Fehlermuster aufzudecken, sowie ein Evaluierungs-Framework, das Regressionen verhindern soll. Integrierte und benutzerdefinierte Signale erfassen und klassifizieren Nutzerinteraktionen, Alarme lassen sich über Slack-Benachrichtigungen ausgeben und können Webhook-Automatisierungen auslösen. Weave gliedert Traces von Multi-Agenten-Systemen in Sitzungen und Turns. Das helfe laut CoreWeave dabei, Ursachen von Fehlern zu finden, die sonst in rohen Logs verborgen blieben.

Für die autonome Verbesserung sollen W&B Skills und ein MCP-Server universelle Coding-Agenten in KI-Forscher und Agentenbauer verwandeln. Skills verleihen einem Coding-Agenten Sicherheit im Umgang mit W&B-Werkzeugen für Experiment-Tracking, Modellverwaltung, Tracing, Evaluierungen und Monitoring. Der MCP-Server stellt Tools und Ressourcen bereit, um auf Daten zuzugreifen und Experimente mit Weights & Biases auszuführen. Laut CoreWeave können Nutzer einen Agenten rund um die Uhr Tausende Experimente durchführen lassen und so Wochen früher eine produktionsreife Zuverlässigkeit erreichen.

Was das für Teams bedeutet, die Agenten entwickeln

Die Ankündigung zielt auf die Lücke zwischen Entwicklung und Produktion, an der Agentenprojekte nach Darstellung von CoreWeave ins Stocken geraten. Indem das Unternehmen RL-Training, Inferenz und Monitoring auf einer Plattform bündelt, will es Unternehmen ermöglichen, Agenten früher zu starten und mit Live-Daten zu verbessern. Angaben zu Preisen und Verfügbarkeit nennt die Quelle nicht, die Leistungszahlen stammen von CoreWeave selbst. Das Unternehmen schließt mit der Einschätzung, dass Unternehmen, denen es gelingt, den Kreislauf zu schließen, ihren Nutzern die zuverlässigsten Agenten liefern werden.