Cognition stellt SWE-2 Flash vor: schnelles und günstiges Coding-Modell

Was Cognition behauptet

Laut Cognition setzt SWE-2 Flash "neue Maßstäbe für Intelligenz bei niedrigen Kosten und hoher Geschwindigkeit". Das Unternehmen gibt an, erstmals eine Mid-Training-Phase vor dem Reinforcement Learning eingefügt zu haben. Cognition zufolge verbesserte sich dadurch Terminal-Bench 4.0 von 0,9 % auf 20,0 % und FrontierCode 2.0 von 3,2 % auf 24,0 %, jeweils im Vergleich zum Basismodell Inkling-Small.

Außerdem erklärt Cognition, SWE-2 Flash übertreffe in führenden Evaluierungen alle amerikanischen Open-Weight-Modelle, "sogar Modelle, die dreimal so groß sind". Das Modell hat insgesamt 276 Mrd. und 12 Mrd. aktive Parameter und damit dieselbe Konfiguration wie Inkling-Small. In einer Demo zur Generierungsgeschwindigkeit stellt Cognition 200 Token pro Sekunde bei SWE-2 Flash 60 Token pro Sekunde bei SWE-2 gegenüber.

Nach Angaben des Unternehmens können kleinere Modelle zunehmend einen großen Teil der Agentenarbeit übernehmen, etwa Automatisierungen, Code-Reviews, Feature-Entwicklung und das Aktualisieren von Dokumentation. SWE-2 Flash wurde für genau diesen Bedarf entwickelt.

Wie das Modell trainiert wurde

Cognition startete mit einer groß angelegten Mid-Training-Phase auf Basis von Inkling-Small. Ein zentrales Problem war die Wahl der Datenmischung. Das Team erstellte einen zurückgehaltenen Coding-Datensatz, der die Modellintelligenz in der realen Softwareentwicklung abbilden soll, und verglich die Mischungen anhand von Token-Effizienz-Diagrammen. Für jeden Kandidaten wurde gemessen, wie viele Token nötig waren, um denselben Validierungsverlust wie ein Referenzlauf zu erreichen.

Der finale Datensatz umfasst einige Billionen Token aus wissenschaftlichen Artikeln, Blogs, Code und weiteren Quellen. Das Training verlief in drei Phasen, damit das Modell die seltensten und hochwertigsten Daten erst später sah. Cognition zufolge verbesserte sich der Validierungsverlust auf zurückgehaltenen Daten durchgehend mit stabiler log-linearer Rate.

Darauf folgte umfangreiches Reinforcement Learning. Cognition gibt an, am RL-Rezept von SWE-2 einige Anpassungen vorgenommen zu haben, die meisten Verbesserungen seien aber auf höhere Qualität und Vielfalt der RL-Aufgaben zurückzuführen. Das Team überprüfte Anweisungen, Umgebungs-Setup und Verifier und ergänzte mehrere neue Aufgabentypen, um allgemeine Fähigkeiten im Schlussfolgern und Problemlösen aufzubauen. Laut Unternehmen verbesserte das nahezu jeden gemessenen Benchmark.

Fokus auf Cybersicherheit und eingeschränkter Zugang zu den Gewichten

Cognition erklärt, Unternehmen und Regierungen benötigten Observability, um Deployments auf der eigenen Infrastruktur, auch On-Premises, zu hosten und zu kontrollieren, und Forschende müssten untersuchen können, wie sich Modelle verhalten und missbraucht werden können. Mit SWE-2 Flash will das Unternehmen Branchenpartnern und Forschenden transparenten Zugang zu den Gewichten ermöglichen, samt der Option, das Modell feinzutunen und in sensiblen Umgebungen zu betreiben.

Im Training nahm sich das Unternehmen gezielt Aufgaben der Cybersicherheit vor und steigerte den ExploitBench-Wert des Modells von 11,3 % auf 34,8 %. Da diese Fähigkeiten auch Angreifern nutzen könnten, veröffentlicht Cognition die Gewichte vorerst nicht. Stattdessen baut das Unternehmen ein Programm auf, um sie sicher mit vertrauenswürdigen Branchenpartnern und Forschungslaboren zu teilen. Weitere Details sollen "in ein paar Wochen" folgen.

Was das für Nutzer bedeutet

SWE-2 Flash ist ab sofort in Devin Desktop und CLI verfügbar und laut Cognition bis zum 30.11. kostenlos. Für Teams, die Routineaufgaben in der Softwareentwicklung erledigen, lautet das Versprechen: ein günstigeres und schnelleres Modell für die tägliche Agentenarbeit. Organisationen, die Self-Hosting oder Fine-Tuning benötigen, müssen auf das Programm zur Weitergabe der Gewichte warten. Die Benchmark-Ergebnisse stammen von Cognition selbst.