Moonshot AIs Kimi K3.1 Pro Highspeed kommt auf Amazon Bedrock

Ein schnelleres Modell für Aufgaben mit langem Planungshorizont

Kimi K3.1 Pro Highspeed gehört zu Moonshot AIs K3.1-Serie und nutzt dieselbe Open-Weight-Architektur der 3T-Klasse wie Kimi K3. Laut AWS hat Moonshot AI das Modell mit deutlich mehr Rechenleistung für das Nachtraining trainiert.

Moonshot AI zufolge zielt das zusätzliche Training auf agentische Aufgaben mit langem Planungshorizont und weniger faktische Fehler ab. Das Unternehmen berichtet außerdem von Verbesserungen bei professionellen Aufgaben wie Finanzmodellierung und Office-Dokumenten sowie bei der Programmierung von Spiele-Engines, 3D-Szenen und Skripten für computergestütztes Design.

Das Highspeed-Modell erzeugt Ausgabetoken mit höherer Rate. Moonshot AI berichtet, dass es 2, 3 Mal so schnell wie Kimi K3.1 Pro ist.

Bestehende Bedrock-Anwendungen können die Modell-ID wechseln

Entwickler, die bereits mit Kimi K3 arbeiten, können Kimi K3.1 Pro Highspeed testen, indem sie in ihrem bestehenden Code die Modell-ID ändern. Das Modell unterstützt Tool-Aufrufe, strukturierte Ausgaben, konfigurierbares Reasoning, Bildeingaben und Streaming.

AWS stellt den Zugriff über den Endpunkt bedrock-runtime bereit und unterstützt neben den Amazon-Bedrock-Converse- und Invoke-APIs auch die OpenAI-kompatiblen Chat-Completions- und Responses-APIs. AWS empfiehlt die Chat-Completions-API.

Anfragen verwenden Inferenzprofile für mehrere Regionen. global.moonshotai.kimi-k3.1 kann Anfragen an jede unterstützte kommerzielle AWS-Region weiterleiten und kostet laut AWS pro Token weniger als geografische Profile. Das Profil us.moonshotai.kimi-k3.1 hält die Verarbeitung innerhalb von US-Regionen, während in.moonshotai.kimi-k3.1 sie für Workloads mit Anforderungen an die Datenresidenz innerhalb von Regionen in Indien hält.

Kimi K3.1 Pro Highspeed führt vor jeder Antwort immer ein Reasoning durch. Mit der Chat-Completions-API können Entwickler reasoning_effort auf low, high oder max setzen. Laut AWS kann ein niedrigerer Wert bei einfacheren Aufgaben Latenz und Ausgabetoken reduzieren.

Flex-Preise und Prompt-Caching zielen auf niedrigere Betriebskosten

Die Flex-Stufe von Amazon Bedrock stellt Kimi K3.1 Pro Highspeed zum halben Standardpreis bereit, nimmt dafür aber möglicherweise längere Antwortzeiten in Kauf. AWS sieht sie für Modellevaluierungen, die Zusammenfassung von Inhalten und Hintergrundaufgaben in agentischen Workflows vor, bei denen Kosteneffizienz wichtiger ist als die Antwortzeit.

Anwendungen können für jede Anfrage eine Stufe auswählen. So kann dieselbe Anwendung Priority für latenzkritische Anfragen, Standard für den täglichen Datenverkehr und Flex für kostenempfindliche Aufgaben verwenden. AWS empfiehlt, zunächst einen kleinen Teil des Datenverkehrs auf Flex umzustellen und Latenz sowie Kosten zu vergleichen.

Das Modell speichert außerdem wiederholte Präfixe automatisch zwischen. Entwickler können explizites Prompt-Caching verwenden, um stabile Inhalte wie Systemanweisungen, Tool-Definitionen, Repository-Konventionen und Referenzdokumente zu markieren. Laut AWS kann dies Latenz und Eingabekosten senken, wenn ein langer Kontext wiederverwendet wird. Explizites Caching wird von den APIs Chat Completions, Responses und Invoke unterstützt, nicht jedoch von Converse. Ein Breakpoint für den Prompt-Cache muss auf mindestens 256 Token stabilen Inhalts folgen, und zwischengespeicherte Inhalte bleiben mindestens 30 Minuten erhalten.

Sicherheitskontrollen und Programmier-Workflows

AWS zufolge werden Daten innerhalb der AWS-Datengrenze verarbeitet, nicht an Moonshot AI weitergegeben und nicht zum Training des Modells verwendet. Für Inferenzanfragen ist die Speicherung auf null Daten immer aktiviert. Dank des ebenfalls aktivierten Zugriffsverbots für Betreiber können AWS-Mitarbeiter Prompts und Vervollständigungen während der Inferenz nicht einsehen.

AWS zeigt Kimi K3.1 Pro Highspeed außerdem als Programmierassistenten in OpenCode. Dabei handelt es sich um einen quelloffenen, modellunabhängigen Programmier-Agenten, der in einem Terminal ausgeführt wird. Entwickler können ihn über den OpenAI-kompatiblen Anbieter von OpenCode und die Chat-Completions-API von Amazon Bedrock anbinden.

Für Nutzer bietet die Veröffentlichung eine Möglichkeit, das Modell einzuführen, ohne eine bestehende Kimi-Integration oder Sicherheitsstrategie zu ändern. Für Teams, die wiederholte Kontexte oder Hintergrund-Workloads verwalten, bieten die Flex-Stufe und Prompt-Caching von AWS unterstützte Möglichkeiten, Antwortzeit und Caching-Kosten gegen die Inferenzkosten abzuwägen.