OpenAI-GPT-Modelle jetzt aus kanadischen AWS-Regionen über Amazon Bedrock nutzbar

Welche Modelle verfügbar sind

AWS nennt drei OpenAI-Modellfamilien, die aus Kanada erreichbar sind: GPT-5.6 (Sol, Terra und Luna), GPT-6 (Astra, Sol und Luna) sowie GPT-6.1 Sol. Das Unternehmen beschreibt jedes Modell über seine Ausrichtung. GPT-6.1 Sol zielt auf starkes Reasoning und Coding, wo Leistung und Kosten gleichermaßen zählen. GPT-6 Astra ist für komplexes durchgängiges Reasoning und agentische Aufgaben gedacht, während GPT-6 Luna schnelle, kostengünstige Inferenz bei wiederkehrenden Aufgaben mit hohem Volumen bieten soll, mit einstellbarem Reasoning-Aufwand pro Anfrage.

In der GPT-5.6-Reihe ist Sol für anspruchsvolles Reasoning, Coding und agentische Workloads positioniert, Terra für ein ausgewogenes Verhältnis von Leistung und Kosten im alltäglichen Produktionsbetrieb und Luna für den schnellen und günstigen Einsatz in latenzempfindlichen Anwendungen mit hohem Volumen.

Laut AWS akzeptieren die Modelle Text- und Bildeingaben, liefern Text zurück und unterstützen ein Kontextfenster von 1 Million Token, einen Reasoning-Modus sowie Tool Calling. GPT-6.1 Sol bietet dasselbe Kontextfenster und Tool Calling, dazu weitere Ein- und Ausgabemodalitäten, die in der Model Card dokumentiert sind. Prompt Caching wird auf Amazon Bedrock für alle drei Familien ebenfalls unterstützt.

So funktioniert Cross-Region-Inferenz

AWS beschreibt Cross-Region-Inferenz (CRIS) als Kapazitätsmechanismus. Eine Anwendung ruft den Amazon-Bedrock-Runtime-Endpunkt in ihrer Quellregion auf, und Amazon Bedrock leitet die Anfrage zur Verarbeitung an eine unterstützte Zielregion weiter. Dadurch steht ein größerer Kapazitätspool zur Verfügung, der den Durchsatz bei Nachfragespitzen stabilisieren kann. Entwickler müssen das Routing zur Zielregion nicht in ihrem eigenen Code abbilden.

Aus Kanada werden zwei Arten von Inferenzprofilen angeboten. Das geografische US-Profil mit dem Präfix us. leitet Anfragen an die kanadische Quellregion und an US-Regionen weiter. AWS empfiehlt es, wenn ein Workload verlangt, dass die Inferenzverarbeitung innerhalb Nordamerikas bleibt. Das globale Profil mit dem Präfix global. routet an unterstützte kommerzielle AWS-Regionen, in denen das Modell bereitgestellt ist.

Die Verfügbarkeit unterscheidet sich je nach Modell. GPT-6.1 Sol und die GPT-6-Modelle werden von beiden Profiltypen aus ca-central-1 und ca-west-1 bedient. Das globale Profil für die GPT-5.6-Modelle ist nur aus ca-central-1 verfügbar, Nutzer in ca-west-1 brauchen für GPT-5.6 daher das geografische US-Profil. AWS weist darauf hin, dass sich die Zusammensetzung der Profile und die Modellverfügbarkeit ändern können, und rät, die aktiven Profile vor dem Deployment zu prüfen, entweder mit der AWS CLI oder in der Konsole.

Einrichtung, APIs und Zugriffskontrolle

Die Modelle lassen sich über die OpenAI Responses API, die OpenAI Chat Completions API und die Amazon Bedrock Converse API am bedrock-runtime-Endpunkt aufrufen. Die OpenAI-kompatiblen APIs nutzen die Pfade unter /openai/v1. Der Endpunkt akzeptiert entweder AWS Signature Version 4 oder einen Amazon-Bedrock-API-Schlüssel. Die Beispiele im Beitrag verwenden einen Token-Generator für Python, der aus vorhandenen AWS-Zugangsdaten einen kurzlebigen Schlüssel erzeugt, sodass kein statischer Schlüssel gespeichert werden muss.

Zu den Voraussetzungen zählen ein AWS-Konto, bei dem eine der beiden kanadischen Regionen als Quellregion aktiviert ist, eine IAM-Rolle oder ein IAM-Benutzer mit der Berechtigung, die Inferenzprofile aufzurufen, sowie Python 3.9 oder neuer mit den Paketen openai, boto3 und aws-bedrock-token-generator. Für erste Tests empfiehlt AWS die verwaltete Richtlinie AmazonBedrockLimitedAccess, für produktive Workloads eine benutzerdefinierte Richtlinie nach dem Prinzip der minimalen Rechte.

Organisationen, die Regionen per Service Control Policies einschränken, können den Bedingungsschlüssel bedrock:InferenceProfileArn nutzen, um CRIS-Datenverkehr zu erlauben und direkte Aufrufe nicht genehmigter Regionen zu blockieren. Laut AWS muss jede Zielregion des gewählten Profils erlaubt sein, damit eine Anfrage erfolgreich ist.

Was das für kanadische Teams bedeutet

Für kanadische Organisationen, die auf Amazon Bedrock aufbauen, ermöglicht die Neuerung die Nutzung dieser OpenAI-Modelle aus kanadischen Regionen. Für Workloads, die die Verarbeitung innerhalb Nordamerikas halten müssen, steht das geografische US-Profil bereit. Der Beitrag behandelt nach eigenen Angaben außerdem Streaming- und Tool-Use-Beispiele für die Responses API, Anträge auf höhere Kontingente und die Observability in der Quellregion. Für Preise und Details zur Verfügbarkeit pro Modell und Region verweist AWS auf die Amazon-Bedrock-Preisseite und die Model Cards im Amazon Bedrock User Guide.