OpenRouter startet die Modell-Router Auto und Auto Code

Ein neu aufgebautes Routing-System

OpenRouter zufolge wurde Auto Router nach drei Jahren Betrieb des Dienstes von Grund auf neu entwickelt. Der neue Auto Router und Auto Code bewerten elf Faktoren jeder Anfrage und kombinieren diese Signale anschließend mit Live-Daten zu Preisen, dem Zustand der Anbieter und dem Cache-Status.

Das System kann mit beliebigen Modell-Sets arbeiten und unterstützt Governance-Richtlinien wie Schutzvorkehrungen, Anforderungen an die vollständige Vermeidung der Datenspeicherung, Einschränkungen bei Anbietern, Listen erlaubter Modelle und BYOK-Schlüssel. OpenRouter zufolge verarbeitet Auto Router jeden Monat mehr als 2.5T Token von über 100k Menschen. Damit entsteht eine Produktionsumgebung für seine Routing-Entscheidungen.

Im Live-Test des Unternehmens dauerte der Routing-Schritt beim p90 0.65s, verglichen mit 1.96s beim vorherigen Router. OpenRouter berichtet außerdem, dass das neue System den alten Router je nach Benchmark um bis zu 4× übertraf.

Auto Code zielt auf Coding-Harnesses

Auto Code ist als openrouter/auto-code verfügbar und speziell auf Programmieraufgaben abgestimmt. OpenRouter zufolge nutzt der Router eine höherklassige Auswahl an Coding-Modellen, gewichtet die Latenz stärker und bestraft Fehler härter. Dadurch kann er reagieren, wenn eine Sitzung wiederholt Fehler oder nicht bestandene Tests produziert.

In fünf vom Unternehmen genannten Benchmarks erzielte Auto Code Ergebnisse auf dem Niveau von Claude Opus 5.5, kostete pro Aufgabe jedoch 74% weniger. OpenRouter zufolge begrenzt der Router außerdem den Modellwechsel, wenn dadurch nützliche Prompt-Cache-Daten verloren gingen. Während der Beta-Phase blieb er bei fast neun von zehn Agenten-Schritten beim selben Modell.

Beim allgemeinen Router änderte OpenRouter seinen Ansatz zur Modellvielfalt, nachdem das Unternehmen beobachtet hatte, dass kostengünstige Modelle die Kosten pro Aufgabe schrittweise gesenkt, zugleich aber andere Modelle ausgeschlossen hatten. Nutzer, die ein Verhalten ähnlich dem bisherigen Kostenprofil wünschen, können cost_tier auf low setzen.

Einblick in die Modellauswahl

Nutzer können die Router ausprobieren, indem sie das Modell in einer API-Anfrage auf openrouter/auto oder openrouter/auto-code setzen oder im Chatroom von OpenRouter Auto Router auswählen. Ein Bereich mit Routing-Einblicken erklärt, warum ein Modell ausgewählt wurde. Dieselbe Analyse ist über die API verfügbar, wenn Router-Metadaten aktiviert sind.

Die Modellseiten zeigen, welche Modelle die einzelnen Router am häufigsten auswählen. Dabei wird nach Sitzungstyp unterschieden und dargestellt, wie sich die Zusammensetzung mit steigender Aufgabenkomplexität verändert. OpenRouter veröffentlicht außerdem Benchmark-Ergebnisse neben denen anderer Router und einzelner Modelle und erklärt, dass die Tests regelmäßig wiederholt werden.

Mit dem Start erhalten Nutzer die Wahl zwischen der direkten Auswahl eines Modells und der Delegation dieser Entscheidung an einen Router. OpenRouter räumt ein, dass kein Router durchgehend das beste einzelne Frontier-Modell über die gesamte Kosten- und Qualitätskurve hinweg schlägt. Das Unternehmen positioniert Auto Router und Auto Code für unterschiedliche Arbeitslasten, kontrollierte Kosten und Nutzer, die nicht jede neue Modellveröffentlichung verfolgen möchten.