Baseten nimmt NVIDIAs offenes multimodales Modell Nemotron 3.5 Super VL ins Angebot

Was das Modell leistet

Laut Baseten wächst die Nachfrage nach Agenten, die mit visuellen Informationen in Dokumenten arbeiten, und multimodale Eingaben werden über alle Modellgrößen hinweg zum Standard. Nemotron 3.5 Super VL ist NVIDIAs jüngste Veröffentlichung eines offenen Modells in dieser Richtung und bei Baseten ab dem Tag der Ankündigung verfügbar, dem 15. Oktober 2026.

Baseten nennt drei zentrale Fähigkeiten:

• Natives visuelles Verständnis: Das Modell liest Dokumente, Bilder, Anwendungsbildschirme und Videos, einschließlich Informationen, die bei reiner Textextraktion verloren gehen.
• Reasoning und Tool-Nutzung: Es nutzt den visuellen Kontext, um zu entscheiden, was als Nächstes zu tun ist, und um Tool-Aufrufe zu erzeugen, die eine Anwendung ausführen kann.
• Anpassung und Kontrolle: Das offene Modell lässt sich mit dem Baseten Loops SDK an die eigenen Daten und Workflows eines Teams anpassen.

Damit eigne sich das Modell laut Baseten gut für Kundenservice, Dokumentenintelligenz, Produktivität im Unternehmen und Webrecherche.

Architektur und Benchmark-Ergebnisse

Nemotron 3.5 Super VL baut auf der Architektur von Nemotron 3 Super auf. Es handelt sich um ein Mixture-of-Experts-Modell mit 120 Milliarden Parametern, von denen pro Token 12 Milliarden aktiv sind. Die hybride Mamba-Transformer-Architektur unterstützt die Verarbeitung langer Kontexte, während Multi-Token Prediction (MTP) die Textgenerierung beschleunigen soll. Die NVFP4-Quantisierung des KV-Cache soll den Speicherbedarf bei Inferenz mit langem Kontext senken.

Ein Vision-Encoder ermöglicht es dem Modell, neben Text auch visuelle Eingaben zu verarbeiten. In der Praxis kann ein Agent laut Baseten das Layout eines Dokuments prüfen, einen Screenshot interpretieren oder einen Videoclip analysieren und das Ergebnis anschließend nutzen, um über den nächsten Schritt nachzudenken. Bei Baseten können Entwickler das Modell mit NVFP4-Gewichten auf NVIDIA-Blackwell-GPUs evaluieren.

Baseten verweist außerdem auf von NVIDIA berichtete Evaluierungen, um zu zeigen, dass die Ergänzung um Vision das Textreasoning nicht geschwächt hat. In drei textorientierten Benchmarks zu professionellen Aufgaben, wissenschaftlichem Coding und Wissenschaftsfragen auf Graduiertenniveau erzielt Nemotron 3.5 Super VL höhere Werte als Nemotron 3 Super. Bei GDPval erreicht es eine Elo-Wertung von 1190, verglichen mit 493 bei Nemotron 3 Super. Auch bei SciCode und GPQA-diamond schneidet es besser ab.

Training mit Baseten Loops

Die Anpassung ist am selben Tag möglich. Loops ist Basetens verwaltetes Produkt für Supervised Fine-Tuning und Reinforcement Learning. Eine Trainingsschleife ist ein Python-Skript, das das Loops SDK aufruft. Baseten zufolge übernimmt die Plattform Sharding, verteiltes Training, Parallelisierung und GPU-Cluster im Hintergrund, sodass Teams keine Trainingsinfrastruktur aufsetzen müssen.

Super VL steht auf Loops nun neben Nemotron 3 Super und Nemotron 3 Ultra. Teams, die diese Modelle bereits trainieren, können das Basismodell wechseln, ohne die Tools zu wechseln. Nach Abschluss eines Laufs lässt sich der trainierte Checkpoint auf derselben Plattform bereitstellen und betreiben.

Was das für Entwickler bedeutet

Entwickler können das Modell bei Baseten für Inferenz evaluieren, sowohl über Dedicated Deployments als auch über Model APIs. Baseten empfiehlt, es mit den eigenen Bildern, Dokumenten oder Anwendungs-Screenshots zu testen und zu messen, wie gut es diese Eingaben versteht, wie zuverlässig es die von einer Anwendung benötigten Ausgaben erzeugt und ob die Latenz zum Workflow passt.

Anschließend können Teams das Modell an die Tools ihrer Anwendung anbinden und mit Baseten Loops auf eigenen Daten, Tools und Richtlinien nachtrainieren. Für Teams, die Agenten zum Lesen von Dokumenten oder Oberflächen entwickeln, bietet die Veröffentlichung damit eine offene multimodale Option, die sich auf einer einzigen Plattform testen und anpassen lässt.