Vercel nimmt OpenAIs GPT-6.1 Terra für visuelle und Desktop-Aufgaben in das AI Gateway auf
Vercel hat OpenAIs GPT-6.1 Terra in seinem AI Gateway verfügbar gemacht. Laut Vercel ist das Modell für schnelles visuelles Schlussfolgern, die Computernutzung und das Schreiben ausgelegt und verbessert gegenüber dem bisherigen Terra-Modell das visuelle Schlussfolgern, die Faktentreue und das Programmieren.
- OpenAIs GPT-6.1 Terra ist jetzt im AI Gateway von Vercel als openai/gpt-6.1-terra verfügbar.
- Das Modell zielt auf visuelles Schlussfolgern, Computernutzung und Schreiben und verbessert gegenüber dem bisherigen Terra das visuelle Schlussfolgern, die Faktentreue und das Programmieren.
- Es akzeptiert Text und Bilder, gibt Text aus und hat ein Kontextfenster von mehr als 1 Mio. Tokens.
- Ein schneller Modus für latenzkritische Anwendungen ist als openai/gpt-6.1-terra-fast verfügbar.
- Laut Vercel gibt das AI Gateway die Anbieterpreise ohne Aufschlag weiter und erhebt keine Plattformgebühr auf Inferenz.
Wofür GPT-6.1 Terra gedacht ist
Vercel beschreibt GPT-6.1 Terra als schnelles Modell für Aufgaben mit hohem Volumen in Dokumenten und Desktop-Anwendungen. Als Beispiele nennt das Unternehmen das Ausfüllen von Formularen, das Interpretieren technischer Zeichnungen und das Eintragen von Rechnungsdaten in Buchhaltungssoftware.
Das Modell nimmt Text und Bilder als Eingabe entgegen und gibt Text aus. Sein Kontextfenster umfasst mehr als 1 Mio. Tokens. Laut Changelog ist es gegenüber dem früheren Terra-Modell besser beim visuellen Schlussfolgern, bei der Faktentreue und beim Programmieren.
Beim Programmieren gibt es eine Einschränkung. Vercel weist darauf hin, dass OpenAI für die komplexesten Coding-Aufgaben weiterhin seine größeren GPT-6-Modelle empfiehlt. Terra versteht sich damit als schnelle Option mit hohem Durchsatz und nicht als Ersatz für die größeren Modelle.
Funktionen und Aufruf
GPT-6.1 Terra unterstützt mehrere Funktionen, auf die Entwickler häufig angewiesen sind:
- Konfigurierbarer Reasoning-Aufwand
- Strukturierte Ausgaben
- Tool Calling
- Implizites und explizites Prompt Caching
Für latenzkritische Anwendungen gibt es einen schnellen Modus unter dem Namen openai/gpt-6.1-terra-fast. Das Standardmodell wird mit openai/gpt-6.1-terra aufgerufen.
Es funktioniert mit dem AI SDK, der OpenAI-kompatiblen Chat Completions API, der Responses API sowie mit Coding-Agenten, die mit dem AI Gateway verbunden sind. Vercels Beispiel nutzt die Funktion streamText des AI SDK mit dem oben genannten Modellnamen und einem Prompt, der einen einseitigen Vorschlag für die Migration einer Dokumentationsseite zu Next.js anfordert.
Um das Modell in Coding-Agenten wie Codex und Cursor zu verwenden, sollen Nutzer laut Vercel die aktuelle Vercel CLI installieren und npx vercel ai-gateway setup ausführen. Anschließend wählen sie im Agenten openai/gpt-6.1-terra aus. Zudem lässt sich das Modell im Model Playground ausprobieren.
Was das AI Gateway bietet
Das AI Gateway ist Vercels einheitliche API zum Aufruf von Modellen. Laut Vercel erfasst es Nutzung und Kosten und ermöglicht Teams, Wiederholungsversuche, Failover und Leistungsoptimierungen für eine höhere Verfügbarkeit als bei den Anbietern selbst zu konfigurieren. Hinzu kommen individuelle Berichte, Unterstützung für Zero Data Retention, Budgets für API-Schlüssel und Routing-Regeln.
Zur Preisgestaltung erklärt Vercel, das AI Gateway gebe die Preise der Anbieter ohne Aufschlag weiter und erhebe keine Plattformgebühr auf Inferenz, auch nicht bei Anfragen mit eigenem Schlüssel (Bring Your Own Key, BYOK).
Für Entwickler, die ihren Datenverkehr bereits über das AI Gateway leiten, bedeutet die Erweiterung, dass sie GPT-6.1 Terra durch Ändern des Modellnamens nutzen können, ohne eine separate Integration. Teams mit dokumentenlastigen oder Desktop-Automatisierungs-Workloads erhalten eine schnellere Option zum Testen, während OpenAI Teams mit den anspruchsvollsten Coding-Aufgaben auf seine größeren GPT-6-Modelle verweist.
Vercel: GPT-6.1 Terra now available on AI Gateway
