OpenAI GPT-6 über Bedrock jetzt aus fünf asiatischen AWS-Regionen abrufbar

So funktioniert globale Cross-Region-Inferenz

Laut AWS kann Inferenz innerhalb einer einzelnen Region gedrosselt werden, wenn die Nachfrage die lokale Kapazität übersteigt. Globale Cross-Region-Inferenz soll hier Abhilfe schaffen: Anfragen werden über unterstützte kommerzielle AWS-Regionen geleitet, in denen das Modell bereitgestellt ist, und erhalten so breiten Zugang zur Kapazität von Amazon Bedrock.

Entwickler nutzen das Verfahren, indem sie anstelle einer Modell-ID eine globale Cross-Region-Inference-Profil-ID übergeben. Die Quellregion ist jene, in der der API-Aufruf erfolgt, und Amazon Bedrock wählt die Zielregion für die Verarbeitung aus. Abrechnung, Quotenverfolgung, AWS CloudTrail und Amazon CloudWatch bleiben laut AWS alle in der Quellregion.

Die Profil-IDs lauten global.openai.gpt-6-sol, global.openai.gpt-6-luna und global.openai.gpt-6-astra. Sol und Luna lassen sich aus Singapur (ap-southeast-1), Jakarta (ap-southeast-3), Malaysia (ap-southeast-5), Thailand (ap-southeast-7) und Taipeh (ap-east-2) aufrufen. Astra ist nur für Singapur gelistet. AWS rät, vor der Entwicklung die Model Cards zu prüfen, da sich Profilverfügbarkeit und Regionsunterstützung ändern, sobald AWS Regionen und Profile hinzufügt.

Die drei GPT-6-Modelle

AWS beschreibt GPT-6 Sol als Modell mit starken Fähigkeiten beim Schlussfolgern und Programmieren für komplexe Aufgaben, die sich über die ganze Woche erstrecken. GPT-6 Luna macht nach Angaben von AWS fokussierte, wiederkehrende Aufgaben im hohen Volumen praktikabel. GPT-6 Astra bewältigt komplexes Schlussfolgern, Programmieren und die Arbeit mit langen Dokumenten.

Alle drei Modelle akzeptieren Text- und Bildeingaben, clientseitige Tool-Nutzung und Prompt Caching. Unterschiede gibt es bei den Einstellungen für den Reasoning-Aufwand:

• GPT-6 Sol und GPT-6 Luna akzeptieren none, low, medium, high, xhigh und max.
• GPT-6 Astra akzeptiert dieselben Stufen mit Ausnahme von none.

Für die Preise pro Token verweist AWS auf die Preisseite von Amazon Bedrock. Der Beitrag nennt keine Preise.

Der Einstieg

Voraussetzungen sind eine IAM-Identität mit der Berechtigung, das Profil aufzurufen, und eine aktivierte Quellregion. Zielregionen müssen nicht aktiviert werden, da sie auf der verwalteten Kapazität von Amazon Bedrock laufen. Singapur ist standardmäßig aktiviert, während Jakarta, Malaysia, Thailand und Taipeh Opt-in-Regionen sind, die zuvor aktiviert werden müssen.

Jedes Modell unterstützt am bedrock-runtime-Endpunkt drei Zugriffswege: die Amazon Bedrock Converse API, die OpenAI Responses API und die OpenAI Chat Completions API. Die OpenAI-kompatiblen APIs werden über die Pfade /openai/v1 aufgerufen und nicht über die AWS-SDKs. Der Endpunkt akzeptiert entweder Signature Version 4 (SigV4) oder einen Amazon-Bedrock-API-Schlüssel. Der Beitrag enthält Python-Beispiele für die Converse API und die Chat Completions API, Letztere mit dem OpenAI SDK und dem Amazon-Bedrock-Token-Generator.

Für Teams, die einen bestehenden OpenAI-Client migrieren, nennt AWS mehrere Anforderungen: Der Parameter model muss bei jeder Anfrage gesetzt werden, es sind die unterstützten Tool-Typen (function, mcp, custom, namespace und tool_search) zu verwenden, und die Inference-Profil-ID ist direkt im Client zu konfigurieren, statt den Models-Endpunkt abzufragen.

ChatGPT-Desktop-App und Codex CLI

Die ChatGPT-Desktop-App und die Codex CLI teilen sich die Datei ~/.codex/config.toml, sodass eine einzige Änderung beide abdeckt. Von den zwei integrierten Amazon-Bedrock-Providern akzeptiert nur amazon-bedrock-runtime ein Inference-Profil. AWS zeigt eine Konfiguration, die das Modell auf global.openai.gpt-6-astra und die Region auf ap-southeast-1 setzt.

Da Anfragen mit SigV4 signiert werden, gibt es laut AWS keinen Schlüssel, der rotiert werden müsste. Codex meldet für diese Profile ein Kontextfenster von 272.000 Token, das AWS als mitgelieferten Wert von Codex und nicht als Limit des Dienstes beschreibt; es lässt sich mit model_context_window erhöhen. Die Konfiguration erfordert Codex CLI 0.148 oder neuer.

Was das für Entwickler in der Region bedeutet

Für Teams in Thailand, Malaysia, Singapur, Indonesien und Taiwan eröffnet die Änderung einen Weg zu den neuesten OpenAI-Modellen, ohne allein von lokaler Kapazität abhängig zu sein, während Abrechnung, Quoten und Protokollierung in der eigenen Region bleiben. Der Beitrag behandelt außerdem die Konfiguration von IAM und Service Control Policies sowie Quotenmanagement und Monitoring, allerdings bricht der hier vorliegende Quelltext vor diesen Details ab.