LegalOn senkt Codex-Kosten, indem das Unternehmen GPT-6-Modelle passend zu Aufgaben einsetzt

Vom unbegrenzten Zugriff auf Spitzenmodelle zur gezielten Modellwahl

LegalOn Technologies bietet weltweit Professional AI an, die juristische Arbeit und andere zentrale Geschäftsfunktionen mit KI unterstützt. Das Unternehmen hat Codex in seinen Entwicklungsprozess integriert und die Nutzung im Arbeitsalltag auf die gesamte Organisation ausgeweitet. Mit der wachsenden Verbreitung wurde die Kostenkontrolle zur zentralen Herausforderung. Unbegrenzte Nutzung leistungsstarker Modelle drohte die Ausgaben in die Höhe zu treiben, pauschale Beschränkungen gefährdeten dagegen die Produktivitätsgewinne.

Zunächst hatten die Entwickler unbegrenzten Zugriff auf das Hauptmodell des Unternehmens, GPT-5.5 im Fast-Modus. Es kam für Konzeption, Implementierung und die tägliche Arbeit zum Einsatz. Wäre es dabei geblieben, hätte das Unternehmen das Jahresbudget zwangsläufig überschritten. Das KI-gestützte Development CoE (AID CoE) begann daher, Leitlinien zur Modellauswahl zu entwickeln. Es testete und beobachtete Modelle, während die Führungskräfte die Erkenntnisse an ihre Teams weitergaben, damit jeder Entwickler für jede Aufgabe das passendste Modell wählen kann.

Drei Modelle für drei Arten von Arbeit

Mit den Leitlinien rückte das Unternehmen davon ab, für alles das leistungsfähigste Modell zu verwenden. Die Teams beginnen nun mit einem schlanken Modell und wechseln bei steigender Komplexität zu leistungsfähigeren. Interne Tests machten die Kriterien konkreter:

• GPT-6 Luna, das leichteste Modell, übernimmt die Code-Implementierung bei klaren Anforderungen, alltägliche Automatisierungen und einfachere delegierte Aufgaben, vor allem als Subagent.
• GPT-6.1 Sol unterstützt bei Standard-Konzeption, Datenanalyse und Dokumentenerstellung, auch bei Aufgaben, die kürzere Bearbeitungszeiten als mit Luna erfordern.
• GPT-6 Astra, das leistungsfähigste Modell, übernimmt anspruchsvolle Abwägungen wie Architekturentwurf, komplexe Analysen und die Koordination von Agenten als Orchestrator.

Zudem führte das Unternehmen Administratoreinstellungen mit monatlichen Nutzungslimits für Abteilungen und Einzelpersonen ein. Das AID CoE überwacht die Nutzung und passt die Limits an, wenn sich die geschäftlichen Anforderungen ändern.

Fast-Modus-Beschränkungen und Budgets nach Geschäftsphase

Der Fast-Modus ist inzwischen standardmäßig eingeschränkt und wird nur bei Bedarf auf Einzelanfrage freigegeben. Die Änderung weckte Bedenken hinsichtlich der Entwicklungsgeschwindigkeit, doch die Teams hielten die Leistung etwa dadurch hoch, dass sie Aufgaben parallel ausführten.

Budgetgrenzen gelten nun auf Abteilungs-, Gruppen- und Einzelebene. Das etablierte LegalOn-Geschäft sollte seine Kosteneffizienz um bis zu rund 20 % verbessern. Neue Geschäftsfelder in der Startphase erhielten großzügige Budgets, um die aktive Nutzung von KI zu fördern. Yuta Tokitake, Senior Engineering Manager bei LegalOn Technologies, erklärt, diese Bereiche hätten Geschäftstempo über Kosteneffizienz gestellt.

Laut Unternehmen senkten Modellauswahl, Funktionsbeschränkungen und maßgeschneiderte Budgets zusammen die geschätzten Tageskosten um rund 65 % im Vergleich zu GPT-5.5.

ROI pro Funktionsrelease messen

Inzwischen fragt LegalOn, ob schnellere Entwicklung den Kunden tatsächlich nützt. „Dass KI die Systementwicklung und Updates beschleunigen kann, ist beinahe selbstverständlich“, sagt Tokitake. „Wir wollen vor allem verstehen, ob sich diese schnellere Entwicklung tatsächlich in Mehrwert für die Kunden übersetzt.“

Das Unternehmen baut eine Kennzahl auf, die jedes Funktionsrelease als eine Einheit betrachtet und den dadurch erzielten Kundennutzen mit den dafür eingesetzten KI-Kosten verknüpft. Die Pipeline zur Berechnung ist noch im Aufbau.

Als Nächstes plant LegalOn eine Wissensbasis, die die besten Modellkombinationen für Konzeption, Implementierung und Review festhält, sodass individuelle Erfolge zur Praxis im gesamten Unternehmen werden. Außerdem legt das Unternehmen bei der Einstellung inzwischen mehr Gewicht auf KI-Kompetenz und überdenkt die Arbeitsteilung zwischen Menschen und KI. Das AID CoE und das Sicherheitsteam arbeiten an einem flexiblen Rahmenwerk, das Governance mit dem Experimentierfreiraum der Teams in Einklang bringt.

Was das bedeutet

Der von OpenAI beschriebene Fall zeigt einen Weg, mit steigenden Ausgaben für Coding-Agenten umzugehen: Modelle nach Aufgabe staffeln, Premium-Geschwindigkeitsmodi standardmäßig einschränken und Budgets nach der Wachstumsphase des jeweiligen Geschäfts festlegen. LegalOn berichtet, dadurch sei die Entwicklungsgeschwindigkeit erhalten geblieben, während die Ressourcen gezielt in die Geschäftsfelder fließen, die das Unternehmen ausbauen will. Die Zahlen stammen aus eigenen Schätzungen des Unternehmens, und die ROI-Kennzahl ist noch nicht fertig.