Künstliche Intelligenz, aktuell.
Direkt aus den Originalmeldungen.

OpenRouter berechnet, wann sich das Selbst-Hosting eines LLM lohnt

12. November 2026Von der KI Nachrichten RedaktionQuelle: OpenRouter
OpenRouter berechnet, wann sich das Selbst-Hosting eines LLM lohnt
Bild: OpenRouter

Das Selbst-Hosting eines Open-Weight-LLM ist laut einer Analyse von OpenRouter nur dann günstiger als die Nutzung einer API, wenn der Datenverkehr die GPU ausreichend auslastet. Die Berechnungen zeigen, dass eine Qwen3.8-27B-Instanz auf einer gemieteten RTX 3090 bei 6 bis 12 Prozent Auslastung den Break-even erreicht. Einige DeepSeek-V4.1-Flash-Konfigurationen sind dagegen selbst gegenüber dem günstigsten API-Endpunkt ohne Datenspeicherung nie günstiger.

Das Wichtigste in Kürze
  • Selbst-Hosting wird erst dann günstiger, wenn die GPU-Auslastung den Break-even-Wert überschreitet.
  • Qwen3.8 27B auf einer gemieteten RTX 3090 erreicht in den Beispielen von OpenRouter bei 6 bis 12 Prozent Auslastung den Break-even.
  • DeepSeek V4.1 Flash auf vier H200-GPUs ist nie günstiger als der günstigste ZDR-API-Endpunkt.
  • Eine eigene RTX 3090 erreicht bei alleiniger Berücksichtigung der Stromkosten einen Break-even-Punkt von 1 Prozent.
  • OpenRouter zufolge decken ZDR-Endpunkte und regionale Domains viele Datenschutzanforderungen ohne Selbst-Hosting ab.

Die Break-even-Berechnung

OpenRouter vergleicht eine Stunde GPU-Zeit auf zwei Arten: die stündlichen Mietkosten und den API-Preis für die Tokens, die dieselbe Hardware verarbeiten kann. Die Formel lautet Break-even-Auslastung = GPU-Miete pro Stunde / API-Kosten einer vollständig ausgelasteten GPU-Stunde für Tokens.

Ein Break-even-Punkt von 30 Prozent bedeutet, dass die GPU während 30 Prozent der gemieteten Stunden ausgelastet sein muss, damit Selbst-Hosting günstiger als die API wird. Ein Ergebnis über 100 Prozent bedeutet, dass die API selbst dann günstiger bleibt, wenn die GPU nie ungenutzt ist. OpenRouter zufolge berücksichtigt die Berechnung weder den Zeitaufwand für die Entwicklung noch zusätzliche Kapazitäten für Verkehrsspitzen. Daher stellen alle Break-even-Werte eine Untergrenze dar.

Für den Vergleich muss außerdem auf beiden Seiten dieselbe Token-Mischung zugrunde liegen. Für Eingabe-, zwischengespeicherte Eingabe- und Ausgabetokens gelten unterschiedliche API-Preise. Reasoning-Modelle können zudem erhebliche Mengen an Ausgabetokens erzeugen, bevor sie eine Antwort ausgeben.

Hardware, Modelle und API-Preise unterscheiden sich stark

OpenRouter verwendete API-Preise vom 8. Oktober 2026 und verglich mehrere Anbieter, die dieselben Open-Weight-Modelle bereitstellen. Die Daten zu den Modell-Endpunkten umfassten 18 Endpunkte für Qwen3.8 27B, darunter 14 mit Richtlinien zur Nichtaufbewahrung von Daten, sowie 31 für DeepSeek V4.1 Flash, darunter 24 ZDR-Endpunkte.

Für Qwen3.8 27B lagen die Eingabepreise zwischen $0.024 und $0.99 pro Million Tokens, während die Ausgabepreise zwischen $1.49 und $5.25 lagen. Bei DeepSeek V4.1 Flash reichten die Eingabepreise von $0.016 bis $0.45 und die Ausgabepreise von $0.14 bis $1.80. Laut OpenRouter verlangte der teuerste Anbieter für die Ausgabe von Qwen3.8 27B das 3,5-Fache des günstigsten Anbieters und für DeepSeek V4.1 Flash fast das 13-Fache des günstigsten Preises.

Zu den Annahmen für das Selbst-Hosting gehörte DeepSeek V4.1 Flash auf vier H200-GPUs für $2.90 oder $4.59 pro GPU-Stunde sowie auf zwei B200-GPUs für $3.70, $6.79 oder $6.89 pro GPU-Stunde. Qwen3.8 27B wurde auf einer RTX 3090 für $0.50 pro Stunde untersucht. Für eine eigene Karte wurden alternativ Stromkosten von etwa $0.05 pro Stunde angesetzt.

Qwen3.8 27B erreicht den Break-even bei geringer Auslastung

Gegenüber dem günstigsten ZDR-Endpunkt erreichte Qwen3.8 27B auf einer gemieteten RTX 3090 bei kurzen Prompts eine Break-even-Auslastung von 8 Prozent und mit OpenRouters geschätzter Chat-Mischung 12 Prozent. Gegenüber dem mittleren ZDR-Preis lagen die Werte bei 6 und 8 Prozent. Bei einer eigenen RTX 3090 und alleiniger Berücksichtigung der Stromkosten sank der Break-even-Punkt auf 1 Prozent.

OpenRouter schätzt, dass eine gemietete 3090 $365 pro Monat kostet und sich nach etwa 170 Millionen Ausgabetokens der verwendeten Chat-Mischung amortisiert. Die Konfiguration verarbeitete jedoch 64 gleichzeitige Anfragen mit etwa 15 Tokens pro Sekunde und Nutzer. Laut der Analyse ist diese Geschwindigkeit für eine Chat-Oberfläche langsam, insbesondere bei einem Reasoning-Modell, das vor seiner Antwort Tausende versteckte Tokens erzeugt.

Das Ergebnis der RTX 3090 wird außerdem als Best Case beschrieben, da HyperQwens stark angepasster vLLM-Build verwendet wurde. OpenRouter nutzte das End-to-End-Ergebnis einschließlich Prefill und nicht den Wert von 1.035 Tokens pro Sekunde, der nur für das Decoding gilt.

Große Bereitstellungen benötigen dauerhaft hohen Datenverkehr

Bei DeepSeek V4.1 Flash fiel das Ergebnis anders aus. Die Konfiguration mit vier H200-GPUs war gegenüber dem günstigsten ZDR-Endpunkt nie günstiger. Die Konfiguration mit zwei B200-GPUs erforderte gegenüber diesem Endpunkt bei der niedrigsten aufgeführten Miete eine Auslastung von 76 Prozent. Gegenüber dem mittleren ZDR-Preis erreichte die Konfiguration mit zwei B200-GPUs bei $3.70 pro GPU-Stunde eine Auslastung von 37 Prozent. Die Konfigurationen mit höheren Mietkosten erreichten jedoch nicht immer den Break-even.

OpenRouter zufolge kann Datenverkehr, der auf die Arbeitszeit begrenzt ist, also 40 der 168 Wochenstunden umfasst, eine GPU höchstens zu 24 Prozent auslasten. Bei den Preisen vom 8. Oktober schloss das jede DeepSeek-Konfiguration aus und ließ nur die RTX-3090-Option übrig. Eine rund um die Uhr laufende Batch-Pipeline könnte eine Auslastung von 70 Prozent erreichen. Damit lägen beide B200-Zeilen gegenüber dem mittleren ZDR-Preis im Bereich des Break-even, nicht jedoch gegenüber dem günstigsten Endpunkt.

Die Analyse kommt außerdem zu dem Ergebnis, dass die meisten Datenschutzanforderungen kein Selbst-Hosting erfordern. Die Einstellung provider.zdr von OpenRouter beschränkt eine Anfrage auf Endpunkte ohne Datenspeicherung, während die EU- und US-Domains Anfragen in der jeweiligen Region halten. Preise können sich schnell ändern: Am 19. Oktober verlangte ein neuer ZDR-Endpunkt für Qwen3.8 27B $0.50 pro Million Ausgabetokens. Dadurch stieg der Break-even bei kurzen Prompts auf etwa 29 Prozent. Nutzer müssen daher die aktuellen Preise, den erwarteten Datenverkehr und die akzeptable Antwortgeschwindigkeit prüfen, bevor sie GPUs kaufen oder mieten.

Ähnliche Meldungen

OpenRouter findet keine klare Qualitätslücke zwischen fp8, fp4 und fp16
Forschung11. November 2026

OpenRouter findet keine klare Qualitätslücke zwischen fp8, fp4 und fp16

OpenRouter fand in einem Test mit Qwen3.8 27B keinen erkannten Genauigkeitsunterschied zwischen fp8, fp4 und fp16. Das Unternehmen weist jedoch darauf hin, dass sich das…

vLLM baut Encoder-Disaggregation für multimodale KI aus
Für Entwickler11. November 2026

vLLM baut Encoder-Disaggregation für multimodale KI aus

vLLM hat technische Arbeiten vorgestellt, die die multimodale Kodierung vom Prefill und Decode des Sprachmodells trennen. Dadurch können Betreiber diese Phasen…

Open-Weight-Modelle erreichen 72 Prozent der Token-Nutzung in den Top 50 auf OpenRouter
Forschung31. Oktober 2026

Open-Weight-Modelle erreichen 72 Prozent der Token-Nutzung in den Top 50 auf OpenRouter

Open-Weight-Modelle haben Ende September 2026 unter den 50 meistgenutzten Modellen auf OpenRouter 72 Prozent der Tokens verarbeitet, nach 27 Prozent im Oktober 2025. Das…