SambaNova bringt Z.ais GLM-5.3 mit über 200 Tokens/s auf SambaCloud

Ein Modell für lang laufende Agentenaufgaben

GLM-5.3 ist laut SambaNova das Flaggschiffmodell von Z.ai für komplexe Softwareentwicklung und langfristige Agentenaufgaben. Das Unternehmen erklärt, das Modell sei in Umgebungen trainiert worden, die mehrtägige Arbeit von Experten nachbilden. Dazu gehörten der Zugriff auf Rechencluster, Codebasen, Dokumentation und Versuchsergebnisse.

Dieses Training soll GLM-5.3 ermöglichen, eine Aufgabe von Anfang bis Ende zu bearbeiten, statt darauf zu warten, dass ein Nutzer sie in kleinere Schritte aufteilt. SambaNova zufolge erreicht das Modell 28.3 bei Terminal-Bench 3.0 und 66.9 bei DeepSWE v1.1. Das Unternehmen bezeichnet diese Werte als den Stand der Technik unter Modellen mit offenen Gewichten.

Das Unternehmen hebt außerdem die Token-Effizienz hervor. Im internen Code Bench von Z.ai erreichte GLM-5.3 laut SambaNova 31.4% bei rund 50K Ausgabetokens pro Aufgabe. Zum Vergleich: Claude Opus 4.8 kam bei 120K Tokens auf 29.5%.

Geschwindigkeit und Caching für Agentenschleifen

SambaNovas Argument für den Betrieb von GLM-5.3 in der eigenen Cloud dreht sich um wiederholte Modellaufrufe. In einem Beispielprotokoll tätigte ein Agent innerhalb von 17 Minuten und 30 Sekunden 41 Aufrufe, verarbeitete 5.4 Millionen Eingabetokens und erzeugte knapp 42.000 Ausgabetokens.

Da bei jedem Durchlauf erneut gesendet wird, was der Agent bereits gesehen hat, wuchs die Eingabe vom ersten Aufruf mit 38K Tokens auf über 114K beim achten Aufruf. Die Ausgabe blieb klein und bestand aus einigen hundert Tokens für die Schlussfolgerung sowie einem Tool-Aufruf. Mehr als 91% der Eingabe wurden dabei aus dem Cache bereitgestellt.

SambaNova zufolge läuft GLM-5.3 auf SambaCloud mit über 200 Tokens/s. Das Unternehmen argumentiert, dass diese Geschwindigkeit pro Aufruf für lang laufende Workflows wichtig ist, da sich die Latenz über viele Schritte hinweg darauf auswirken kann, wie lange ein Entwickler auf den Abschluss der gesamten Aufgabe wartet.

Zugriff über APIs und Coding-Tools

Entwickler können das Modell über die SambaNova-API aus Python heraus aufrufen und dabei die Modellbezeichnung GLM-5.3 verwenden. Das von SambaNova bereitgestellte Beispiel fordert das Modell auf, ein Timeout-Problem in einem FastAPI-Dienst zu diagnostizieren, Paginierung und Abfrage-Timeouts zu implementieren sowie Regressionstests zu schreiben. Der Aufwand für die Schlussfolgerung ist auf max gesetzt.

GLM-5.3 ist auch über ZCode, die agentenbasierte Entwicklungsumgebung von Z.ai, verfügbar. SambaNova zufolge lässt sich das Modell verbinden, indem Nutzer die OpenAI-Basis-URL von SambaCloud hinzufügen, einen API-Schlüssel eingeben, GLM-5.3 auswählen und den Aufwand für die Schlussfolgerung auf max setzen.

Der gleiche Ansatz mit der Basis-URL funktioniert mit Claude Code, OpenCode und Codex CLI. SambaNova weist jedoch darauf hin, dass Codex-Nutzer den Responses-API-Endpunkt verwenden und low, high und max als unterstützte Stufen für die Schlussfolgerung angeben sollten. Das Unternehmen verweist außerdem auf die SambaCloud-Spielwiese und die Einrichtung des API-Schlüssels.

Für Entwickler erweitert die Ankündigung den Zugriff auf GLM-5.3 über Tools für Coding und mehrstufige Automatisierung hinweg. SambaNova verweist außerdem auf Anwendungsfälle in der Cybersicherheit. Das Modell erreiche den besten veröffentlichten Wert bei CyberGym und sei vom US Center for AI Standards and Innovation als fortschrittlichstes Modell mit offenen Gewichten für Cybersicherheit eingestuft worden.