Metas Muse Spark Open ist jetzt in Amazon SageMaker JumpStart verfügbar
Muse Spark Open von Meta, ein für Programmieraufgaben optimiertes Open-Weight-Modell, ist ab sofort in Amazon SageMaker JumpStart verfügbar. Nutzer können es laut AWS auf einem Endpunkt im eigenen AWS-Konto bereitstellen, ohne die Serving-Infrastruktur selbst verwalten zu müssen.
- Metas auf Coding optimiertes Open-Weight-Modell Muse Spark Open ist jetzt in Amazon SageMaker JumpStart verfügbar.
- Das MoE-Modell hat insgesamt 816 Mrd. und 42 Mrd. aktive Parameter sowie ein Kontextfenster von 1 Mio. Token.
- BF16 läuft auf ml.p6-b300.48xlarge, NVFP4 auf ml.p5e.48xlarge und benötigt etwa ein Viertel des Speichers.
- Zum Start ist es in USA Ost (Nord-Virginia) und USA Ost (Ohio) verfügbar.
- Der Endpunkt läuft im AWS-Konto des Kunden, mit Optionen für VPC, KMS und Netzwerkisolation.
Großes Mixture-of-Experts-Modell für Coding-Agenten
Muse Spark Open nutzt eine Mixture-of-Experts-Architektur (MoE) mit insgesamt 816 Milliarden Parametern, von denen pro Token 42 Milliarden aktiv sind. Laut AWS verfügt das Modell dadurch über die Kapazität eines sehr großen Netzes, während der Rechenaufwand pro Token eher dem eines deutlich kleineren dichten Modells entspricht.
Meta beschreibt das Modell als auf Coding optimiert und für agentische Programmier-Workflows trainiert, mit Schwerpunkt auf Genauigkeit im ersten Versuch, Tool-Aufrufen und dem Verständnis großer Codebasen. Es handelt sich um ein Reasoning-Modell, das Text, Bilder, Dokumente, Audio und Audio-Video als Eingabe akzeptiert und Text ausgibt. Das Kontextfenster umfasst 1 Million Token. Laut AWS kann das Modell damit ein ganzes Projekt samt Abhängigkeiten, Legacy-Code und Tausenden Dateien aufnehmen, sodass Aufgaben nicht aufgeteilt werden müssen.
Nach Angaben von Meta plant das Modell, handelt, beobachtet das Ergebnis und korrigiert sich über lange Zeiträume hinweg selbst, statt nur einzelne Tool-Aufrufe auszuführen. Es wurde außerdem darauf trainiert, im Web zu browsen, Subagenten zu koordinieren und Computer in Desktop-, Mobil- und Browserumgebungen zu bedienen. AWS betont, dass es sich bei SageMaker AI um Fähigkeiten des Modells handelt: Die Anwendung oder das Agent-Framework muss die Tools, den Browser und die Computer-Use-Umgebung bereitstellen. Der Endpunkt liefert neben der Antwort auch die Überlegungen des Modells, sodass Nutzer nachvollziehen können, was ein Agent tut und warum.
Die Gewichte werden unter der Muse Model License veröffentlicht, die auch die Muse Spark Usage Policy umfasst.
Zwei Varianten und die benötigten Instanzen
SageMaker JumpStart bietet zwei Varianten an: BF16 (Muse-Spark-Open-816B-A42B) und eine mit NVFP4 quantisierte Version (Muse-Spark-Open-816B-A42B-NVFP4). Zwar hält die spärliche Aktivierung den Rechenaufwand pro Token gering, doch für das Serving ist weiterhin genügend GPU-Speicher für alle 816 Milliarden Parameter nötig. Die Wahl der Instanz hängt daher vor allem von der Speicherkapazität ab.
Die NVFP4-Variante speichert die Gewichte in NVIDIAs 4-Bit-Gleitkommaformat und benötigt etwa ein Viertel des Speichers der BF16-Gewichte. Sie läuft auf ml.p5e.48xlarge, die BF16-Variante auf ml.p6-b300.48xlarge. AWS empfiehlt, bei der Kostenplanung zuerst NVFP4 auszuprobieren und die Qualität anhand der eigenen Workloads zu prüfen, um sicherzugehen, dass sie für den Einsatzzweck ausreicht.
Zum Start ist das Modell in den Regionen USA Ost (Nord-Virginia) und USA Ost (Ohio) verfügbar. Beide Instanztypen sind Multi-GPU-Maschinen, und ein Endpunkt wird so lange abgerechnet, wie er läuft, unabhängig davon, ob er Anfragen verarbeitet. AWS rät dazu, den Endpunkt nach Abschluss der Arbeiten zu löschen.
Bereitstellung und Kontrolle im eigenen Konto
Das Modell lässt sich über SageMaker Studio oder mit dem SageMaker Python SDK bereitstellen, wobei beide Wege einen Echtzeit-Endpunkt im Konto des Nutzers erzeugen. In Studio suchen Nutzer in JumpStart nach Muse Spark Open, öffnen die Detailkarte des Modells, akzeptieren den Endnutzer-Lizenzvertrag, da das Modell zugangsbeschränkt ist, wählen einen Instanztyp und starten die Bereitstellung. Laut AWS dauert diese in der Regel 15 bis 20 Minuten, während die Instanz bereitgestellt und die Gewichte geladen werden.
Für den SDK-Weg lauten die Modell-IDs meta-vlm-muse-spark-open-816b-a42b für BF16 und meta-vlm-muse-spark-open-816b-a42b-nvfp4 für NVFP4. Der SDK-Weg setzt Python 3.10 oder höher und das SageMaker Python SDK v3 voraus, und für die Bereitstellung muss accept_eula=True gesetzt werden. Zudem benötigen Nutzer ein AWS-Konto mit den passenden Berechtigungen, eine SageMaker-Ausführungsrolle und Service-Kontingent für den gewählten Instanztyp.
Da der Endpunkt im Konto des Kunden läuft, werden Quellcode und Prompts auf einer Infrastruktur verarbeitet, die der Kunde selbst konfiguriert. Zu den Optionen gehören die Anbindung des Endpunkts an eine Amazon VPC, die Verschlüsselung des Speichervolumens mit einem AWS-KMS-Schlüssel und die Aktivierung der Netzwerkisolation. Außerdem legen Nutzer Instanztyp und Skalierungsgrenzen fest und fixieren die Modellversion, sodass sich das Modell nur ändert, wenn sie es neu bereitstellen.
Was das für Entwickler bedeutet
AWS nennt drei Anwendungsfälle: Coding-Assistenten für private Repositories, lang laufende Coding-Agenten, die dateiübergreifend Änderungen vornehmen und Tests in einer Sandbox ausführen, sowie multimodale Engineering-Workflows, die Screenshots, Designdokumente oder aufgezeichnete Fehlerberichte in einen Reproduktionsplan oder einen Fehlerbehebungsentwurf überführen.
Für Teams, die ihren Code in der eigenen Cloud-Umgebung halten wollen, bietet die Veröffentlichung einen verwalteten Weg zu einem großen Open-Weight-Coding-Modell. Die Hardwareanforderungen sind allerdings erheblich, und die Wahl zwischen den beiden Varianten dürfte maßgeblich über die Kosten entscheiden.
