Künstliche Intelligenz, aktuell.
Direkt aus den Originalmeldungen.

Hugging Face zeigt MoE-Inferenz mit 180B und 32 GB RAM

18. November 2026Von der KI Nachrichten RedaktionQuelle: Hugging Face
Hugging Face zeigt MoE-Inferenz mit 180B und 32 GB RAM
Bild: Hugging Face

Hugging Face stellt einen Transformers-Ansatz namens MoE Expert Streaming vor. Die Seite trägt den Titel „180B Parameters, 32GB of RAM: Pushing MoE Inference to the Limit with Transformers“. Außerdem verweist sie auf die Textgenerierung mit Qwen3.8 und gestreamten Experten.

Das Wichtigste in Kürze
  • Hugging Face hat eine Seite über MoE Expert Streaming in Transformers veröffentlicht.
  • Der Titel bezieht sich auf 180B Parameter und 32 GB RAM.
  • Die Seite verlinkt auf die Textgenerierung mit Qwen3.8 und gestreamten Experten.
  • Der Quelltext enthält keine Benchmark-Ergebnisse, Implementierungsdetails oder Angaben zur Verfügbarkeit.

Fokus auf große MoE-Modelle

Die auf den 18. November 2026 datierte Seite von Hugging Face befasst sich mit der Inferenz von Mixture-of-Experts-Modellen, kurz MoE, in Transformers. Im Mittelpunkt des Titels stehen ein Modell mit 180B Parametern und ein System mit 32 GB RAM.

Die Seite beschreibt das Projekt als „MoE expert streaming in Transformers“ und stellt Expert Streaming als Thema des Artikels vor. Der verfügbare Quelltext enthält keine weiteren Details zur Implementierung, keine Benchmark-Ergebnisse und keine Angaben zur Hardware.

Qwen3.8 dient als Beispiel

Hugging Face verlinkt den Artikel mit einer Umgebung zur Textgenerierung, die als „Generate text with Qwen3.8 using streamed experts“ beschrieben wird. Dies ist das einzige konkrete Nutzungsbeispiel im Quelltext.

Die Seite führt außerdem im Artikel erwähnte Modelle auf und zeigt einen damit verbundenen Space. Der Quelltext sagt nicht, ob der Ansatz über ein bestimmtes Produkt, einen bestimmten Dienst oder eine bestimmte Hardwarekonfiguration verfügbar ist, abgesehen von der Angabe von 32 GB im Titel.

Warum die Ankündigung wichtig ist

Die Ankündigung lenkt den Blick auf die Diskrepanz zwischen der Gesamtzahl der Parameter eines Modells und dem verfügbaren Speicher des Systems, auf dem die Inferenz läuft. Indem Hugging Face 180B Parameter mit 32 GB RAM in der Überschrift kombiniert, präsentiert das Unternehmen Expert Streaming als Möglichkeit, die Grenzen beim Betrieb großer MoE-Modelle mit Transformers auszuloten.

Für Nutzer und Entwickler liegt die unmittelbare Bedeutung darin, dass Hugging Face einen Ansatz mit gestreamten Experten dokumentiert und ihn mit der Textgenerierung von Qwen3.8 verknüpft. Der Quelltext nennt weder eine bestimmte Geschwindigkeit noch eine Qualitätsverbesserung, einen Veröffentlichungstermin oder eine breitere Verfügbarkeit.

Ähnliche Meldungen

Cloudflare veröffentlicht offene Clairic-Modelle zur Dokumentenextraktion
Modelle18. November 2026, 23:00

Cloudflare veröffentlicht offene Clairic-Modelle zur Dokumentenextraktion

Cloudflare hat aktualisierte Versionen von Clairic und Clairic-flash veröffentlicht, zwei Open-Weight-Modelle zur Datenextraktion aus Texten, Bildern und PDFs. Die…

OpenRouter bringt Inferenz mit mehreren Anbietern zu Hugging Face
Wirtschaft16. November 2026

OpenRouter bringt Inferenz mit mehreren Anbietern zu Hugging Face

OpenRouter übernimmt ab sofort die Inferenz von Chat-Modellen bei Hugging Face Inference Providers. Damit stehen Entwicklern, die auf der Plattform arbeiten…

Hugging-Face-Seite führt LLMON in Granite 4.1 3B und 8B auf
Modelle12. November 2026, 20:07

Hugging-Face-Seite führt LLMON in Granite 4.1 3B und 8B auf

Hugging Face hat eine Seite mit dem Titel „LLMON: An LLM-Native Markup Language, now in Granite 4.1 3B and 8B“ veröffentlicht. Der bereitgestellte Seitentext bezeichnet…