Vercel wendet Token-Pass-Guthaben automatisch im gesamten AI Gateway an
Vercel wendet Token-Pass-Guthaben ab sofort automatisch auf enthaltene Modellnutzung über das AI Gateway an, unabhängig davon, ob eine Anfrage einen API-Key, ein OIDC-Token oder den fx-Login verwendet. Damit entfällt für die meisten Token-Pass-Abonnenten die Notwendigkeit, einen speziellen Token-Pass-API-Key zu nutzen.
- Token-Pass-Guthaben wird jetzt automatisch über das AI Gateway angewendet.
- Die Funktion unterstützt API-Keys, OIDC-Tokens und den fx-Login.
- Standard-Keys und OIDC-Tokens können auf das AI-Gateway-Guthaben des Teams zurückgreifen.
- Anfragen mit Token-Pass-Keys werden bis zum nächsten Abrechnungszeitraum gestoppt.
- Die Funktion ist für Token-Pass-Abonnenten in Pro-Teams verfügbar.
Automatische Guthabennutzung über verschiedene Authentifizierungsmethoden
Token-Pass-Guthaben wird jetzt automatisch auf enthaltene Modellnutzung über das AI Gateway angewendet. Laut Vercel funktioniert das, wenn sich Anfragen mit einem Standard-API-Key, einem OIDC-Token oder dem fx-Login authentifizieren.
Für diese automatische Guthabenverrechnung benötigen Nutzer keinen speziellen Token-Pass-API-Key. Vercel zufolge können Abonnenten weiterhin über das Dashboard oder die CLI einen Token-Pass-Key erstellen. Diese Keys sind ausschließlich auf ausgewählte Modelle und Anbieter beschränkt und bieten Teams damit eine separate Option, wenn sie Anfragen auf diese Auswahl begrenzen möchten.
Was passiert, wenn das Token-Pass-Guthaben aufgebraucht ist?
Das Update ändert auch die Verarbeitung von Anfragen, nachdem das Token-Pass-Guthaben für einen Abrechnungszeitraum aufgebraucht ist. Anfragen mit einem Standard-API-Key oder OIDC-Token greifen laut Vercel auf das AI-Gateway-Guthaben des Teams zurück.
Bei Token-Pass-Keys ist das Verhalten anders. Anfragen mit diesen Keys werden bis zum nächsten Abrechnungszeitraum gestoppt, statt das AI-Gateway-Guthaben des Teams zu verwenden. Damit entscheidet die Authentifizierungsmethode darüber, ob eine Anfrage nach dem Aufbrauchen des enthaltenen Token-Pass-Guthabens fortgesetzt werden kann.
Laut Vercel ist die Funktion jetzt für Token-Pass-Abonnenten in Pro-Teams verfügbar. Nutzer, die während der Einrichtung einen Token-Pass-Key erstellt haben, sollten auf einen Standard-API-Key oder ein OIDC-Token wechseln, um das Fallback-Verhalten zu erhalten.
Einstellungen zur Datenspeicherung bleiben bestehen
Anfragen, die über den Token-Pass-Anbieter verarbeitet werden, unterliegen laut Vercel weiterhin der Richtlinie Zero Data Retention, kurz ZDR. Für Fallback-Anfragen gilt stattdessen die Einstellung des Teams.
Wenn ein Team ZDR für das gesamte Team aktiviert hat, werden Fallback-Anfragen ausschließlich an ZDR-Anbieter weitergeleitet. Dadurch bleibt die Anbietervorgabe des Teams für Anfragen bestehen, die vom Token-Pass-Guthaben auf das AI-Gateway-Guthaben wechseln. Teams ohne diese Einstellung folgen ihrem konfigurierten Verhalten.
Warum die Änderung für Token-Pass-Teams wichtig ist
Das Update vereinfacht die Guthabenverwaltung für Teams, die Standard-API-Keys oder OIDC-Tokens verwenden. Diese Anfragen können nach dem Aufbrauchen des Token-Pass-Kontingents für den Abrechnungszeitraum weiterhin das AI-Gateway-Guthaben des Teams nutzen, ohne dass für den Wechsel ein separater Key erforderlich ist.
Teams, die Token-Pass-Keys verwenden, behalten ihren beschränkten Zugriff auf ausgewählte Modelle und Anbieter. Diese Anfragen werden jedoch gestoppt, sobald das Token-Pass-Guthaben aufgebraucht ist. Die Dokumentation von Vercel bleibt die maßgebliche Quelle für das aktualisierte Verhalten von Token Pass.
