Kimi K3.1 Pro und die Highspeed-Variante jetzt im AI Gateway von Vercel verfügbar
Vercel hat Kimi K3.1 Pro von Moonshot AI in sein AI Gateway aufgenommen, zusammen mit Kimi K3.1 Pro Highspeed, einer schnelleren Version für interaktive Anwendungen. K3.1 Pro ist das erste Modell der K3.1-Serie von Moonshot und baut auf Kimi K3 auf.
- Vercel hat Kimi K3.1 Pro und Kimi K3.1 Pro Highspeed von Moonshot AI ins AI Gateway aufgenommen.
- K3.1 Pro ist das erste Modell der K3.1-Serie und verbessert sich gegenüber Kimi K3 bei Coding, 3D-Modellierung, Finanzanalyse und agentischen Aufgaben.
- Das Modell behält das Kontextfenster von 1 Mio. Token und die Bildeingabe.
- Moonshot AI plant die Veröffentlichung der Modellgewichte bis zum 4. November, weitere Anbieter sollen folgen.
- Das AI Gateway gibt die Preise der Anbieter ohne Aufschlag weiter und erhebt keine Plattformgebühr auf Inferenz.
Was K3.1 Pro verbessert
Laut Vercel übertrifft Kimi K3.1 Pro das Vorgängermodell Kimi K3 bei Coding, 3D-Modellierung, Finanzanalyse und agentischen Aufgaben. Das Kontextfenster von 1 Mio. Token und die Bildeingabe des Vorgängers bleiben erhalten.
Beim Coding deckt das Modell Aufgaben ab, die von kleinen Korrekturen in einer bestehenden Codebasis bis zum Aufbau eines kompletten Projekts reichen, einschließlich langer Agentenläufe mit vielen Schritten. Vercel zufolge erstellt es Frontend-Seiten und interaktive Szenen mit stärkerer Typografie und Animation als frühere Kimi-Modelle.
Im Finanzbereich kann das Modell eine Aufgabe von Anfang bis Ende durchführen. Vercel nennt zwei Beispiele: den Aufbau eines verknüpften Finanzmodells mit anpassbaren Annahmen und Szenarien sowie das Verfassen von Recherchen auf Grundlage von Quellendokumenten. Dem Beitrag zufolge macht K3.1 Pro bei schwierigen Prompts außerdem weniger Sachfehler als frühere Kimi-Modelle.
Gewichte und Zugang
Moonshot AI plant laut dem Beitrag, die Modellgewichte bis zum 4. November zu veröffentlichen. Die Unterstützung weiterer Anbieter soll folgen.
Entwickler können beide Modelle über das AI SDK, die Chat-Completions-, Responses- und Anthropic-Messages-APIs oder über einen mit dem AI Gateway verbundenen Coding-Agenten aufrufen. Der Modellname der Standardversion lautet moonshotai/kimi-k3.1-pro. Für die schnellere Variante verwenden Entwickler stattdessen moonshotai/kimi-k3.1-pro-highspeed.
Das Beispiel von Vercel nutzt die Funktion streamText des AI SDK mit dem Prompt „Write a Blender script that models a parametric bookshelf.“ Das Modell lässt sich auch im Model Playground ausprobieren.
Einsatz in Coding-Agenten
Um die Modelle in Claude Code, Codex, Cursor und ähnlichen Tools zu nutzen, sollen Anwender laut Vercel die aktuelle Vercel CLI installieren und npx vercel ai-gateway setup ausführen. Anschließend wählen sie im Agenten entweder moonshotai/kimi-k3.1-pro oder moonshotai/kimi-k3.1-pro-highspeed aus. Details liefert ein Leitfaden für Coding-Agenten.
Was das AI Gateway bietet
Das AI Gateway ist die einheitliche API von Vercel für den Aufruf von Modellen. Nach Angaben des Unternehmens erfasst es Nutzung und Kosten und erlaubt die Konfiguration von Wiederholungsversuchen, Failover und Leistungsoptimierungen für eine höhere Verfügbarkeit als beim jeweiligen Anbieter. Zu den weiteren genannten Funktionen gehören:
- integrierte benutzerdefinierte Berichte
- Unterstützung für Zero Data Retention
- Budgets für API-Schlüssel
- Routing-Regeln
Vercel erklärt, das AI Gateway gebe die Preise der Anbieter ohne Aufschlag weiter und erhebe keine Plattformgebühr auf Inferenz, auch nicht bei Anfragen mit eigenem Schlüssel (Bring Your Own Key, BYOK).
Für Entwickler, die ihren Datenverkehr bereits über das AI Gateway leiten, bedeutet die Veröffentlichung: K3.1 Pro lässt sich durch einen Wechsel des Modellnamens testen, für interaktive Anwendungen steht zudem eine schnellere Option bereit. Die geplante Veröffentlichung der Gewichte deutet darauf hin, dass weitere Anbieter folgen werden, näheres nennt die Quelle jedoch nicht.
