Kimi K3 erhält regionale Verarbeitung in Indien auf Amazon Bedrock
Amazon Bedrock bietet für das Modell Kimi K3 jetzt Inferenz innerhalb Indiens. Die Option richtet sich an lokale Workflows mit strengen Anforderungen an die Datenresidenz. Dabei müssen Daten innerhalb eines festgelegten geografischen Gebiets bleiben.
- Amazon Bedrock bietet regionale Inferenz in Indien für Kimi K3.
- Die Verarbeitung in Indien bleibt innerhalb der AWS-Regionen Mumbai und Hyderabad.
- Ultrahuman zufolge senkte Prompt-Caching die Kosten um 80 Prozent.
- Kimi K3 kann Dokumente auf Hindi und Hinglish-Fragen verarbeiten.
- Das Modell unterstützt mehrere APIs, Tool-Nutzung und strukturierte Ausgaben.
Verarbeitung kann in indischen Regionen bleiben
Laut einer AWS-Mitteilung vom 3. November 2026 ist Kimi K3 auf Amazon Bedrock jetzt mit geografischer Inferenz in Indien sowie mit globaler und US-Verarbeitung verfügbar. Kimi K3 ist ein multimodales Foundation-Modell mit offenen Gewichten. Sein Entwickler Moonshot AI erklärte bei der Veröffentlichung, das Modell habe führende Leistungen beim Programmieren und bei allgemeiner agentischer Intelligenz erzielt.
Wird das Indien-Profil verwendet, bleibt die Inferenzverarbeitung in den AWS-Regionen Mumbai und Hyderabad. Das Profil für geografische Inferenz in Indien verwendet die Kennung in.moonshotai.kimi-k3, während das globale Profil unter global.moonshotai.kimi-k3 verfügbar ist. AWS empfiehlt für die meisten Anwendungsfälle die globale Option, da sie die niedrigsten Kosten und die breiteste Verfügbarkeit bietet.
Bei der regionsübergreifenden Inferenz startet der Kunde eine Anfrage aus einer Quellregion, worauf Amazon Bedrock sie in einer möglichen Zielregion verarbeitet. AWS zufolge werden Daten bei der Übertragung zwischen Regionen innerhalb des AWS-Netzwerks verschlüsselt und passieren nicht das öffentliche Internet.
Ultrahuman: günstigere und schnellere Gespräche
Laut AWS setzt Ultrahuman Kimi K3 bereits in der Produktion ein. Der Gesundheits- und Wellnessassistent Jade des Unternehmens antwortet in natürlicher Sprache auf Basis der eigenen Ring- und Glukosedaten der Nutzer und verarbeitet mehr als 14.000 Gespräche pro Tag.
Aditya Patawari, Vice President of Engineering bei Ultrahuman, erklärte, das Unternehmen habe Kimi K3 über die bereits verwendete API integrieren können. Gleichzeitig blieben Gesundheitsdaten innerhalb von AWS, und Mumbai stand als Backup-Region zur Verfügung. Das Unternehmen erklärte, Prompt-Caching habe die Kosten für große Sprachmodelle um 80 Prozent gesenkt und Gespräche mit mehreren Gesprächsrunden um 85 Prozent beschleunigt.
Kann Hinglish-Fragen zu Dokumenten beantworten
Die AWS-Demonstration beschreibt einen Anwendungsfall für die Dokumentenverarbeitung in Indien. Kimi K3 kann ein gescanntes Dokument in Hindi lesen, daraus strukturierte Daten extrahieren und anschließend gemischte Fragen auf Hindi und Englisch, sogenanntes Hinglish, beantworten.
AWS bringt dies mit Finanz- und Verwaltungsprozessen in Verbindung, bei denen Kundenidentifikationsformulare, Stromrechnungen und ähnliche Dokumente digitalisiert werden müssen. Das Modell kann Bilder, PDFs und mehrere andere Dateitypen direkt verarbeiten. Das Beispiel von AWS zeigt damit, dass es mehrsprachigen Text ohne einen separaten Dienst für optische Zeichenerkennung oder Übersetzung interpretieren kann.
Im Beispiel musste das Modell beantworten, wie viel auf einer künstlich erzeugten Stromrechnung in Hindi zu zahlen war, wann die Zahlungsfrist endete und welcher Betrag nach einer verspäteten Zahlung fällig wäre. Die Antwort des Modells lautete, dass sich der Gesamtbetrag der Rechnung auf 2.217,20 indische Rupien belief, die Frist am 20. Oktober 2026 endete und bei verspäteter Zahlung 2.261,54 Rupien fällig würden.
APIs und strukturierte Ausgaben
Kimi K3 kann über mehrere APIs am Amazon-Bedrock-Runtime-Endpunkt angesprochen werden. Dazu gehören die OpenAI-kompatiblen APIs Chat Completions und Responses, die Converse API, die modellübergreifend für unterstützte Modelle vereinheitlicht ist, sowie die InvokeModel API, die ein modellspezifisches JSON-Format verwendet. In seiner Demonstration nutzt AWS die OpenAI-kompatiblen APIs und die Python-Bibliothek openai.
Das Modell unterstützt außerdem Streaming-Antworten, Tool-Nutzung und strukturierte Ausgaben. Letztere können mit Function Calling oder einem auf JSON Schema basierenden Ausgabeformat verwendet werden. AWS zufolge ermöglicht dies eine konsistente Extraktion von Feldern in Workflows zur Dokumentenverarbeitung.
Für die Nutzung sind ein AWS-Konto, Python 3.11 oder neuer sowie die installierte und mit den erforderlichen Berechtigungen konfigurierte AWS CLI nötig. AWS hat außerdem den vollständigen Quellcode für das Beispiel veröffentlicht und empfiehlt, das Modell nach Möglichkeit mit kurzlebigen Zugangsdaten aufzurufen.
