AI21 trainiert Nvidia Nemotron 3.5 Super VL für Gong, Deel und Alice nach

Spezialisierte Intelligenz besitzen statt mieten

AI21 versteht das Projekt als Teil eines Wandels: Unternehmen wollen spezialisierte Intelligenz besitzen, statt allgemeine Modelle zu mieten. Mit dem Angebot Lab-as-a-Service und der eigenen Trainingsplattform Harness and Model könnten Firmen diesen Schritt "in Wochen, nicht in Quartalen" vollziehen, so das Unternehmen.

Als Basismodell dient NVIDIA Nemotron 3.5 Super VL, das AI21 als offenes multimodales Modell für langlaufende Agenten beschreibt, die sehen, schlussfolgern und handeln müssen. Es ist dafür ausgelegt, mit den eigenen Daten, Werkzeugen und Richtlinien einer Organisation nachtrainiert zu werden. Die Beweggründe für diesen Weg unterscheiden sich laut AI21: Für manche Unternehmen sind es die Kosten, für andere die Kontrolle über die Daten oder ein Alleinstellungsmerkmal.

Gong und Deel: Ergebnisse bei Kosten und Genauigkeit

Gong. Das Revenue-AI-Unternehmen entwickelte einen Agenten namens Gong Data Extractor. Er wertet Kundeninteraktionen wie Anrufe, E-Mails und Webkonferenzen aus und speichert wichtige Informationen zu Deals und Accounts als Felder, die sich mit CRM-Datensätzen synchronisieren lassen. Gong verarbeitet laut AI21 Dutzende Millionen Interaktionen pro Monat, sodass die Kosten rasch ins Gewicht fallen. Ziel war es, die Kosten zu senken, ohne die Qualität zu beeinträchtigen.

AI21 zufolge erstellten die Teams einen Trainingsdatensatz, setzten eine Mischung aus SFT- und DPO-Training ein und bauten eine Evaluierungsinfrastruktur auf, die die Qualität bei CRM-Änderungen absichert, mit zusätzlichen Ebenen für Kennzahlen mit hohem Risiko. Das dauerte nur zwei Wochen. In Gongs eigenen Evaluierungen erreicht das spezialisierte Modell bei Geschwindigkeit und Genauigkeit das Niveau von SOTA-Modellen wie Claude Opus 5.5, und das zu einem kleinen Bruchteil der Kosten, berichtet AI21.

Deel. Die globale HR- und Gehaltsabrechnungsplattform, die mehr als 40.000 Unternehmen in über 150 Ländern unterstützt, wollte ein offenes Modell, das Fragen zur Lohnabrechnung ohne Nachhaken vollständig beantwortet. AI21 merkt an, dass Frontier-Modelle oft einen Teil der Antwort auslassen, und bei der Lohnabrechnung ist eine unvollständige Antwort eine falsche Antwort.

Das Team nutzte von Experten geprüfte Trainingsdaten und Benchmarks von Emet by Deel. Das Rezept bestand aus zwei Schritten: SFT auf bereinigten, generierten Rollouts, danach SDPO (Self Distillation Policy Optimization), bei dem der Lehrer durch detaillierte Anweisungen zum gewünschten Verhalten nachträglich einen Wissensvorsprung erhielt. Laut AI21 stieg die Antwortgenauigkeit im Emet-Benchmark für Lohnabrechnung in acht Ländern auf 72 Prozent, 8 Punkte über Claude Opus 5.5, bei 33-fach geringeren Kosten pro Anfrage.

Alice: mehr Widerstandsfähigkeit gegen Angriffe

Alice, ein Unternehmen für KI-Sicherheit, baut RL-Gyms, in denen Kunden Produktivagenten darauf trainieren können, Sicherheitsbedrohungen auf den von ihnen genutzten Softwareplattformen abzuwehren. Der Datensatz "Rabbit Hole" stützt sich auf reale Erkenntnisse über das Verhalten von Angreifern sowie auf Beiträge von mehr als 150 angestellten Sicherheitsforschern und Mitgliedern eines Expertennetzwerks. Das nachtrainierte Modell soll indirekte Prompt-Injection-Angriffe sowohl in Slack als auch in Github erkennen.

AI21 begann mit der Evaluierung von Nemotron 3.5 Super im RL-Gym von Alice und wandte dann SFT und DPO an, um die Anfangsergebnisse zu verbessern und die Vielfalt der Antworten zu erhöhen. Sobald Leistung und Vielfalt ausreichten, kam GRPO-Training (Online RL) hinzu. Das Ergebnis laut AI21: eine Verbesserung der Widerstandsfähigkeit gegen Angriffe um 41 Punkte, ohne die Gesamtleistung bei den Aufgaben zu beeinträchtigen, und damit besser als Frontier-Modelle wie GPT-6.1 Sol.

Was das für Unternehmen bedeutet

AI21 weist darauf hin, dass die drei Aufgaben von Zusammenfassung über wissensintensive Recherche bis zur Angriffsabwehr reichen, aber eines gemeinsam haben: eine repetitive Last von bis zu Millionen Anfragen im Monat und strenge Maßstäbe dafür, wie eine korrekte Ausgabe aussieht. Frontier-Modelle könnten diese Maßstäbe nicht immer erfassen, so das Unternehmen.

Nach Darstellung von AI21 führte das Nachtrainieren von Nemotron 3.5 Super auf der eigenen Plattform, gesteuert von den eigenen Forschern, alle drei Aufgaben in drei Wochen von der Ausgangsbasis zu spezialisierter Intelligenz. Das habe die Kosten gesenkt, einen Vorsprung geschaffen, den Wettbewerber nicht mieten können, und volle Kontrolle über das Verhalten der Agenten ermöglicht. Die Ergebnisse stammen von AI21 und seinen Partnern; der Beitrag enthält keine unabhängige Überprüfung.