Amazon Bedrock bringt Claude Opus 5, Sonnet 5 und Haiku 4.5 nach Indien

So funktioniert die geografische Inferenz für Indien

Amazon Bedrock bietet Cross-Region-Inference-Profile an, die Inferenz auf mehrere AWS-Regionen verteilen, damit Kunden die Kapazität nicht in jeder Region selbst verwalten müssen. Eine Anfrage geht von der Quellregion aus, in der der API-Aufruf erfolgt, und wird automatisch an eine der im Profil definierten Zielregionen weitergeleitet.

Laut AWS hält das geografische Profil für Indien die Inferenz innerhalb des Landes. Anfragen werden ausschließlich zwischen ap-south-1 und ap-south-2 geroutet, also den Regionen Mumbai und Hyderabad. Eingabe-Prompts und Ausgabeergebnisse können zwischen diesen beiden Regionen wechseln. Die Indien-Option gibt es zusätzlich zur bereits unterstützten globalen Cross-Region-Inference. Nach Angaben von AWS kann sie Kunden helfen, die Daten lokal in einer bestimmten Geografie verarbeiten müssen.

Da Anfragen auf einen größeren Pool an Rechenleistung zugreifen statt auf die Kapazität einer einzelnen Region, trägt dies laut AWS dazu bei, Durchsatz und gleichbleibende Leistung unter Last zu sichern. Das ist vor allem bei Lastspitzen wichtig.

Datenverarbeitung, Abrechnung und unterstützte Funktionen

AWS erklärt, dass die Cross-Region-Inference über das sichere AWS-Netzwerk mit Ende-zu-Ende-Verschlüsselung für Daten bei der Übertragung läuft. Kundendaten werden nicht in einer Zielregion gespeichert und verbleiben ausschließlich in der Quellregion.

Amazon Bedrock nutzt ein Datensicherheitsmodell mit Zero Data Retention (ZDR), das heißt, Modelleingaben und -ausgaben werden standardmäßig nicht gespeichert. AWS fügt hinzu, dass bei bestimmten Modellen eine menschliche Prüfung durch AWS erforderlich ist, wenn Inhalte von automatischen Sicherheitsklassifikatoren markiert werden. Details dazu nennt der Abschnitt Data retention im Amazon Bedrock User Guide.

Abrechnung und Kontingentverbrauch werden dem Konto des Kunden in der Quellregion zugeordnet, unabhängig davon, welche Backend-Region die Anfrage bearbeitet hat. Amazon CloudWatch und AWS CloudTrail protokollieren Einträge nur in der Quellregion, sodass das Monitoring an einem Ort bleibt.

Die geografische Cross-Region-Inference ist über den Endpunkt bedrock-runtime verfügbar. Sie unterstützt die Messages API von Anthropic sowie die nativen Amazon-Bedrock-APIs InvokeModel und Converse, außerdem Funktionen wie Amazon Bedrock Guardrails und Intelligent Prompt Routing.

Erste Schritte in der Konsole und im Code

In der Amazon-Bedrock-Konsole können Nutzer die Modelle im Text-Playground ausprobieren, ganz ohne Programmierung oder SDK-Einrichtung. AWS beschreibt folgende Schritte:

• Die Konsole in der Region öffnen, die als Quellregion dienen soll.
• Unter Test die Option Playground und dann Select model wählen.
• Nach Anthropic Claude Opus 5 suchen und unter Inference das Profil IN Anthropic Claude Opus 5 als Inferenzprofil auswählen.
• Apply wählen, einen Prompt eingeben und Run wählen.

Für den programmatischen Zugriff verwenden Entwickler die Profil-ID der geografischen Inferenz für Indien. Die Anthropic Messages API funktioniert über das Anthropic SDK, die APIs InvokeModel und Converse über die AWS CLI und das AWS SDK. In den Beispielen von AWS dient ap-south-1 als Region, die Profil-IDs lauten etwa in.anthropic.claude-sonnet-5 und in.anthropic.claude-opus-5.

Zu den Voraussetzungen zählen ein aktives AWS-Konto mit Zugriff auf Amazon Bedrock, eine installierte und konfigurierte AWS CLI, Python 3.8+, Boto3, das Anthropic SDK und der Bedrock Token Generator für die Authentifizierung der Modellinferenz. Die IAM-Rolle oder der IAM-Nutzer benötigt die Berechtigung, Modelle über ein geografisches Cross-Region-Inference-Profil aufzurufen. Nutzung, Leistung und Kosten lassen sich über CloudWatch und AWS Cost Explorer überwachen.

Was das für Kunden in Indien bedeutet

Für Organisationen in Indien, die die Inferenz im Land halten müssen, erweitert der Start das Angebot auf Amazon Bedrock um Claude Opus 5, Claude Sonnet 5 und Claude Haiku 4.5. Laut AWS können Kunden skalierbare und ausfallsichere Anwendungen der generativen KI entwickeln und dabei die Inferenz im Land halten. Für die aktuelle Modellverfügbarkeit nach Region verweist AWS auf die Seite Regional availability by models im Amazon Bedrock User Guide.