MiniMax M3.1 Flash ist auf SambaCloud verfügbar und läuft mit mehr als 200 Token pro Sekunde

Wofür MiniMax M3.1 Flash gedacht ist

MiniMax M3.1 Flash ist das neueste Flash-Modell von MiniMax und für agentische Aufgaben, Coding, Computer Use und Cybersicherheit konzipiert. SambaNova beschreibt es als Generationssprung bei den Fähigkeiten gegenüber dem Vorgängermodell, bei zugleich fast dreimal schnellerer Inferenz.

Die Gewinne bei Geschwindigkeit und Kosten gehen auf eine deutlich stärkere Sparsity als beim Vorgänger zurück. Laut dem Beitrag senkt das die Gesamtkosten für agentische Aufgaben um 70 Prozent und macht die Online-Inferenz fast dreimal so schnell. Auf SambaCloud verbindet sich diese Effizienz nach Angaben von SambaNova mit der Dataflow-Architektur des Unternehmens und erreicht so mehr als 200 Token/s.

Kunden, die derzeit MiniMax M3 auf SambaCloud nutzen, sollten eine Änderung beachten: Diese Anfragen werden auf MiniMax M3.1 Flash umgeleitet. SambaNova bittet Nutzer, ihren Modell-String auf MiniMax-M3.1-Flash zu aktualisieren.

Veröffentlichte Benchmark-Ergebnisse

Die folgenden Zahlen sind die Benchmark-Ergebnisse aus dem Beitrag von SambaNova, der sich auf die Ankündigung von MiniMax stützt.

• Coding: 73,7 Prozent bei DeepSWE v1.1, einem Test, bei dem das Modell eine Codebasis verstehen, Funktionen entwickeln, Fehler beheben und seine eigene Arbeit durch Tests validieren muss.
• Computer Use: 61,7 bei OSWorld V2 und 29,6 bei Agents' Last Exam (ALE). Laut Beitrag belegt das Modell bei beiden Tests unter den chinesischen Modellen Platz eins.
• Cybersicherheit: 82 Prozent bei CyberGym, was der Beitrag mit dem Aufspüren und Validieren von Schwachstellen verknüpft.
• Finanz-Workflows: 76,2 bei BankerToolBench, der mehrstufige Planung, Konsistenz über Dokumente und Dateien hinweg, Finanz-Compliance und verkettete Tool-Aufrufe auf die Probe stellt.

Zudem heißt es in dem Beitrag, das Modell zähle bei AutomationBench-AA zu den Spitzenreitern und bewältige Unternehmens-Workflows über SaaS-Systeme hinweg, etwa in Vertrieb, Marketing, Betrieb, Kundenservice, Finanzen und Personalwesen. In internen Evaluierungen von MiniMax durch Sicherheitsexperten schnitt das Modell bei Code-Audits, dem Schließen von Sicherheitslücken, Penetrationstests, Malware-Analyse und Reverse Engineering stark ab.

Preise und Einstieg

SambaNova nennt für MiniMax-M3.1-Flash auf SambaCloud folgende Preise: 0,03 $ für gecachte Input-Token, 0,30 $ pro 1 Mio. Input-Token und 1,20 $ pro 1 Mio. Output-Token.

Der Beitrag enthält ein kurzes Python-Beispiel mit dem SambaNova-Client. Es sendet einen Coding-Prompt, lässt das Modell die eigene Lösung kritisieren und anschließend eine verbesserte Version erstellen. Im Beispiel sind Temperature auf 1,0 und top_p auf 0,95 gesetzt. Nutzer können das Modell außerdem im SambaCloud Playground ausprobieren oder einen API-Schlüssel erzeugen, um es in eine Anwendung zu integrieren.

Was das für Entwickler von Agenten bedeutet

SambaNova rückt bei der Veröffentlichung Produktiv-Agenten in den Mittelpunkt, bei denen jeder Schritt in einer langen Schleife ein Modellaufruf ist. In diesem Umfeld, so die Argumentation, zählen Geschwindigkeit und niedrige Kosten pro Aufgabe am meisten. Über AutomationBench, DeepSWE und ALE hinweg liefere das Modell nach Angaben des Unternehmens eine Leistung auf Augenhöhe mit Top-Modellen, und das bei sehr niedrigen Kosten pro Aufgabe.

Diese Leistungsangaben stammen von SambaNova und MiniMax, nicht aus unabhängigen Tests. Für Teams, die MiniMax M3 bereits auf SambaCloud nutzen, besteht der praktische Schritt darin, auf den neuen Modell-String umzustellen, da der Traffic bereits von M3.1 Flash bedient wird.