Künstliche Intelligenz, aktuell.
Direkt aus den Originalmeldungen.

vLLM bringt MiniMax H3-Image für Bilderzeugung in unter einer Sekunde auf Vera Rubin

12. November 2026Von der KI Nachrichten RedaktionQuelle: vLLM
vLLM bringt MiniMax H3-Image für Bilderzeugung in unter einer Sekunde auf Vera Rubin
Bild: vLLM

Laut vLLM erreicht die Implementierung von MiniMax H3-Image auf vier NVIDIA-Vera-Rubin-GPUs eine mediane Antwortzeit von 0,87 Sekunden für die native Bilderzeugung in 4096×4096. In einer separaten Konfiguration wurden nach Angaben des Unternehmens 6.115 Bilder pro Stunde erreicht.

Das Wichtigste in Kürze
  • vLLM meldet eine mediane native 4K-Bilderzeugung in 0,87 Sekunden auf vier Vera-Rubin-GPUs.
  • Vier Replikate mit jeweils einer GPU erreichten bei einer Parallelität von 8 6.115 Bilder pro Stunde.
  • H3-Image unterstützt Text-zu-Bild-Erzeugung, Bildbearbeitung und bis zu 16 Referenzbilder.
  • Das Modell nutzt einen Qwen3-VL-Encoder, einen 33,1B-DiT mit dichter Architektur und ein Bild-VAE.
  • vLLM prognostiziert bei voller abrechenbarer Auslastung 105,16 USD pro GPU und Stunde, vor Betriebskosten.

Unterstützung ab dem ersten Tag zielt auf hochauflösende Bilderzeugung

vLLM hat MiniMax H3-Image über vLLM-Omni auf NVIDIA Vera Rubin gebracht. Das Modell mit offenem Gewicht unterstützt sowohl die Text-zu-Bild-Erzeugung als auch die Bildbearbeitung. Ein einziger Checkpoint übernimmt beide Aufgaben in sechs Sampling-Schritten.

H3-Image erzeugt hochauflösende Bilder nativ ohne Upscaler und unterstützt bis zu 16 Referenzbilder. Die Serving-Implementierung deckt Einzel- und Multi-GPU-Bereitstellungen ab. Nutzer können das Modell auf einer einzelnen RTX-GPU ausführen oder die Bilderzeugung über mehrere Rechenzentrums-GPUs verteilen, mit Konfigurationen für unterschiedliche Speicherkapazitäten.

Das Unternehmen gibt an, das Modell auf 10 NVIDIA-Hardwaretypen vermessen zu haben. Außerdem beschreibt es die Unterstützung von Hardware von AMD Instinct, Intel Arc Pro, Huawei Ascend und Moore Threads über separate Implementierungen und Rezepte.

Separate Konfigurationen für Latenz und Durchsatz

Der Wert von 0,87 Sekunden stammt aus einem Serving-Benchmark mit kurzen Prompts, bei dem vier GPUs, SP4 und MXFP8 zum Einsatz kamen. Bei einer Parallelität von 1 meldet vLLM eine mediane Latenz von 0,866 Sekunden und eine p95-Latenz von 0,944 Sekunden. Nach Angaben des Unternehmens war das in den verglichenen Konfigurationen 2,21-mal schneller als GB200 und 1,64-mal schneller als GB300.

Dieses Spitzenresultat ist vom hardwareübergreifenden Request-Benchmark getrennt zu betrachten. Bei einem detaillierten Prompt für ein Kaffeeprodukt benötigte Rubin für 4K durchschnittlich 1,09 Sekunden. In einem weiteren Vergleich erreichten vier GB300-GPUs bei der 4K-Text-zu-Bild-Erzeugung durchschnittlich 1,48 Sekunden, während eine einzelne RTX 5090 mit schichtweisem CPU-Offload 52,29 Sekunden für dieselbe Anfrage benötigte.

Beim Durchsatz erreichten vier Replikate mit jeweils einer GPU bei einer Parallelität von 8 insgesamt 6.115 Bilder pro Stunde, bei einer medianen Latenz von 4,411 Sekunden. Die Konfiguration für maximalen Durchsatz unterscheidet sich von der Konfiguration für Latenzen unter einer Sekunde. Laut vLLM erreichte SP4 bei einer Parallelität von 2 4.407 Bilder pro Stunde, während Replikate den Durchsatz um 38,7 % steigerten.

Optimierungen umfassen Berechnung, Decoding und Speicher

H3-Image kombiniert einen Qwen3-VL-Encoder, einen 33,1B-DiT mit dichter Architektur und ein Bild-VAE. Eine native Ausgabe mit 4096×4096 umfasst vor dem VAE-Decoding über sechs Entrauschungsschritte hinweg 16.384 Zielbild-Tokens. Referenzbilder verursachen zusätzlichen Kodierungsaufwand und zusätzliche Konditionierungs-Tokens.

Auf Blackwell und Rubin verwendet vLLM MXFP8-GEMMs für geeignete lineare DiT-Schichten. Ulysses SP4 verteilt die Sequenzverarbeitung auf vier GPUs, während DiT TP1 die Gewichte repliziert. Durch AdaLN-Caching werden Konditionierungsprojektionen wiederverwendet, wenn Eingaben und Gewichte übereinstimmen. Alle sechs Entrauschungsschritte werden weiterhin ausgeführt.

Das VAE decodiert unabhängige Bildkacheln, die vLLM auf GPUs verteilt. CUDA-Graph-Replay und mehrere CUDA-Streams reduzieren anschließend den Startaufwand und überlappen die Kachelverarbeitung. In einer BF16-Kontrollmessung auf vier GB300-GPUs sank die VAE-Decodierung nach Angaben des Unternehmens von 2,635 Sekunden auf 0,213 Sekunden. Dadurch verringerte sich die End-to-End-Latenz von etwa 4,0 Sekunden auf 1,6 Sekunden, also um den Faktor 2,5.

Bei kleineren GPUs tauscht schichtweiser CPU-Offload die Zeit für die Gewichtsübertragung gegen GPU-Speicher ein. Die dokumentierten Konfigurationen umfassen Bereitstellungen auf RTX 5090, RTX 5080, RTX 6000D und RTX PRO 6000.

Die gemeldete Wirtschaftlichkeit hängt von Auslastung und Preisannahmen ab

Auf Grundlage der gemessenen Rate von 6.115 Bildern pro Stunde prognostiziert vLLM 146.755 Bilder pro Tag für ein Rubin-System mit vier GPUs. Der Tageswert ist eine Hochrechnung der gemessenen Rate und nicht das Ergebnis eines 24-stündigen Lasttests.

Für seine Umsatzschätzung setzt vLLM 0,06879 USD pro Bild an. Grundlage ist das offizielle Preisbeispiel von MiniMax für die Standard-4K-API zur Text-zu-Bild-Erzeugung ohne Referenzen und vor Einführungsrabatten. Bei diesem angenommenen Verkaufspreis prognostiziert das Unternehmen einen Bruttoumsatz von 105,16 USD pro GPU und Stunde bei 100 % abrechenbarer Auslastung beziehungsweise 78,87 USD pro GPU und Stunde bei 75 %.

Diese Werte berücksichtigen keine Betriebskosten. Zudem weist vLLM darauf hin, dass die tatsächlichen Kosten gehosteter APIs je nach Umfang der Text-Tokens variieren. Für Nutzer und Betreiber präsentiert die Ankündigung H3-Image als Modell, das sowohl interaktive 4K-Latenzen als auch den Betrieb mit höherem Volumen unterstützen kann. Welche Variante sinnvoll ist, hängt von der Anzahl der GPUs, der Speicherzuordnung, der Parallelität und der Auslastung ab.

Ähnliche Meldungen

NVIDIA öffnet NVKE und NVKR für GPU-basierte Kubernetes-Dienste
Für Entwickler10. November 2026, 16:00

NVIDIA öffnet NVKE und NVKR für GPU-basierte Kubernetes-Dienste

NVIDIA hat zwei Open-Source-Projekte vorgestellt: NVIDIA Kubernetes Engine und NVIDIA Kubernetes Recipes. Sie dienen dem Aufbau und Betrieb verwalteter…

NVIDIA bringt Koreas führende offene Modelle mit Dynamo in die Produktion
Für Entwickler9. November 2026, 06:00

NVIDIA bringt Koreas führende offene Modelle mit Dynamo in die Produktion

NVIDIA veröffentlicht für Dynamo optimierte Bereitstellungsrezepte für vier der führenden offenen Modelle Koreas, darunter Modelle von SK Telecom, LG AI Research…

Cline erreicht 11.840 Token pro Sekunde auf einer einzigen GPU mit Nemotron 3.5 Super VL
Für Entwickler27. Oktober 2026, 20:12

Cline erreicht 11.840 Token pro Sekunde auf einer einzigen GPU mit Nemotron 3.5 Super VL

Cline gibt an, auf einer einzelnen GB300 mit NVIDIAs Nemotron 3.5 Super VL bei 256 parallelen Anfragen aggregiert 11.840 Output-Token pro Sekunde erreicht zu haben. Das…