Modular stellt offenen KI-Compiler-Stack beim LLVM-Treffen vor

Modular präsentierte beim LLVM Developers' Meeting 2026 seinen durchgängigen Mojo- und MAX-Software-Stack, darunter einen ganztägigen Workshop und einen technischen Vortrag über Device Graphs. Das Unternehmen skizzierte außerdem Pläne für Mojo, seine Compiler-Backends und Entwicklerwerkzeuge.
- Modular präsentierte seinen vollständigen Mojo- und MAX-Stack beim LLVM Developers' Meeting 2026.
- Das Unternehmen beschrieb Mojos MLIR-basierten Compiler und seine Plugin-Architektur.
- MAX erstellt Device Graphs direkt im Compiler, anstatt sie zur Laufzeit aufzuzeichnen.
- Modular zufolge ist die direkte Erstellung von Graphen etwa 40 % schneller als die Aufzeichnung.
- Das öffentliche Repository modular/modular hat mehr als 30.000 GitHub-Sterne.
Ein genauerer Blick auf Mojo und MAX
Modular war drei Tage bei der Veranstaltung in Santa Clara, Kalifornien, vertreten, die vom 26. bis 28. Oktober stattfand. Das Unternehmen erklärte, dies sei das erste Mal gewesen, dass es Details zum gesamten Modular-Stack mit den Teilnehmern teilen konnte, wobei der vollständige Quellcode zum Mitverfolgen verfügbar war.
Der Workshop am 26. Oktober mit dem Titel Mojo: Internals Deep Dive and Roadmap richtete sich an Compilerentwickler mit Erfahrung in LLVM und MLIR. Die Veranstaltung behandelte Mojos Compiler, Typsystem, GPU-Backends und Standardbibliothek. Außerdem wurde gezeigt, wie MAX Beschleuniger-Hardware ansteuert sowie Rechengraphen für KI-Modelle kompiliert und optimiert.
Mojo basiert laut Modular auf MLIR, einem LLVM-Teilprojekt. Die Referenten beschrieben Mojo als benutzerorientierte Schicht über MLIR für Beschleuniger. Die Spezialisierung auf bestimmte Hardware erfolgt dabei über Bibliotheken, die Domänenexperten schreiben können. Das Unternehmen sprach außerdem über ein Plugin-System, mit dem sich neue Backends hinzufügen lassen, ohne den gesamten Compiler abzuspalten. Modular erklärte, dass das Backend für Qualcomm Cloud AI 100 aus 263 Zeilen besteht.
MAX erstellt Device Graphs im Compiler
In einem technischen Vortrag mit dem Titel Moving Beyond Record & Replay plädierte Spenser Bauman aus Modulars Graph-Execution-Team dafür, Device Graphs in einem Compiler zu erstellen, anstatt sie zur Laufzeit aufzuzeichnen.
Device Graphs übermitteln eine Abfolge von Aufgaben auf einmal an einen Beschleuniger. Laut Modular kann dies helfen, die steigenden Kosten der Kommunikation zwischen CPU und Beschleuniger zu bewältigen, da GPUs schneller werden. Das Unternehmen beschrieb Record and Replay als Ansatz, der die Komplexität auf Komponenten wie den Graph Executor, die asynchrone Laufzeitumgebung, Speicherpools, Kernel und Treiber verteilt. Außerdem böten einige Beschleuniger APIs für Device Graphs oder Command Buffers, ohne einen entsprechenden Aufzeichnungsmodus bereitzustellen.
MAXs Graph-Compiler kann stattdessen einen Device Graph erstellen und direkte Aufrufe an die APIs des jeweiligen Ziels zur Graph-Erstellung ausgeben. Laut Modular wird dieser Ansatz bereits von einem produktiven Gemma-4-Modell genutzt, das mithilfe der Device-Graph-Synthese vollständig auf einer oder mehreren GPUs läuft. Nach Angaben des Unternehmens ist die direkte Erstellung des Graphen etwa 40 % schneller als seine Aufzeichnung. DeviceGraphBuilder-Implementierungen gibt es für CUDA, HIP und Qualcomm AI100 hinter einer gemeinsamen Schnittstelle.
Roadmap und Open-Source-Arbeit
Zu Modulars kurzfristigen Mojo-Prioritäten gehören Enumerationen und Pattern Matching, mehr Metaprogrammierung zur Compile-Zeit sowie eine Syntax für Hardwarekonzepte wie Adressräume. Das längerfristige Ziel für 2027 besteht darin, Entwickler zu erreichen, die performanten CPU-Code schreiben. Geplant sind Arbeiten an async/await, dynamischem Dispatch, Threading und Netzwerkfunktionen.
Auf Compilerseite plant Modular, die Quellcodes der GPU- und NPU-Backends verfügbar zu machen, steckbare MLIR- und LLVM-Backends zu unterstützen, ein WASM-Backend zu ermöglichen und die Kompilierung weiter zu beschleunigen. Zu den geplanten Werkzeugen gehören automatische Interoperabilität zwischen Mojo und C, ein Debugger, ein Test-Framework, ein auf pixi basierender Paketmanager sowie ein auf Bazel basierendes Build-System.
Das Unternehmen erklärte, seine Open-Source-Arbeit habe im März 2024 mit der Mojo-Standardbibliothek begonnen. Wenige Wochen vor der Veranstaltung folgten die Öffnung von Mojo und die vollständige Veröffentlichung des MAX-Quellcodes. Laut Modular wird der gesamte Stack inzwischen aus dem öffentlichen Repository modular/modular erstellt, das mehr als 30.000 GitHub-Sterne hat. Für Entwickler und Hardwarepartner bieten die Präsentationen einen Einblick, wie Modular Mojo, MLIR, Plugins und MAX einsetzen will, um seinen Software-Stack auf weitere Beschleunigerziele auszuweiten.
Modular: Modular: Modular at LLVM Developers' Meeting 2026


