BigQuery führt tägliche Token-Kontingente ein, um die Kosten für generative KI zu begrenzen

Vier tägliche Kontingente, verwaltet über IAM

Die generativen KI-Funktionen in BigQuery, darunter AI.GENERATE, AI.IF, AI.CLASSIFY und AI.SCORE, bringen große Sprachmodelle direkt in SQL. Laut Google Cloud kann eine einzige Abfrage Millionen von Support-Tickets klassifizieren oder jede Produktbewertung nach ihrer Stimmung bewerten. Da diese Funktionen pro Token abgerechnet werden, können die Kosten bei der Anwendung auf große Datensätze schnell steigen.

Die neuen Kontrollen bestehen aus vier täglichen Kontingenten, die über das Quotensystem von Google Cloud Identity and Access Management (IAM) verwaltet werden. Die von Google Cloud genannten Standardwerte lauten:

• AI input tokens per day (pro Projekt): 200 Milliarden
• AI input tokens per day per user (pro Projekt, pro Nutzer): 150 Milliarden
• AI output tokens per day (pro Projekt): 20 Milliarden
• AI output tokens per day per user (pro Projekt, pro Nutzer): 15 Milliarden

Die Limits pro Nutzer gelten für jeden Nutzer innerhalb eines Projekts, nicht organisationsweit. Die Kontingente sind global, die Nutzung wird also über alle Regionen hinweg summiert. Bei den Output-Kontingenten zählen auch „Thinking“-Tokens mit, ähnlich wie Reasoning-Tokens auf der Gemini-Plattform in die Abrechnung einfließen.

Die Kontingente gelten für AI.GENERATE, AI.GENERATE_TABLE, AI.GENERATE_TEXT (und dessen Alias ML.GENERATE_TEXT), AI.CLASSIFY, AI.IF, AI.SCORE und AI.AGG. Embedding-Funktionen wie AI.GENERATE_EMBEDDING und AI.EMBED sind nicht erfasst, da sie laut Unternehmen auf anderen, deutlich günstigeren Modellen laufen.

Limits anpassen und Durchsetzung

Administratoren können die Kontingente in der Google Cloud Console unter „IAM & Admin“, „Quotas & System Limits“ einsehen und ändern, ohne ein Support-Ticket zu öffnen. Eine Absenkung greift sofort und braucht keine Genehmigung. Eine Erhöhung wird auf derselben Seite beantragt. Google Cloud zufolge werden viele Anfragen automatisch genehmigt, größere Erhöhungen können eine kurze Prüfung durchlaufen.

Für Änderungen ist eine von mehreren Rollen nötig: Owner, Editor, Quota Administrator oder Service Usage Admin. Die Kontingente lassen sich auch über die Cloud Quotas API, die gcloud CLI und Terraform verwalten, was einheitliche Leitplanken über mehrere Projekte hinweg ermöglicht. Die Seite „Quotas & System Limits“ zeigt zudem den historischen Tokenverbrauch mit wählbaren Zeiträumen von 7, 14 und 30 Tagen sowie benutzerdefinierten Bereichen, um Lastspitzen zu erkennen.

Die Durchsetzung erfolgt durch Abbruch der Verarbeitung. Eine Abfrage wird nur dann vorab mit dem Fehler QuotaExceeded abgelehnt, wenn ein benötigtes Kontingent bereits erschöpft ist. Andernfalls startet sie, und wenn ein Kontingent mitten in der Abfrage aufgebraucht ist, sendet BigQuery keine neuen LLM-Aufrufe mehr. Funktionen, die max_error_ratio unterstützen, etwa AI.IF, liefern Teilergebnisse, wenn die unverarbeiteten Zeilen innerhalb dieses Verhältnisses bleiben, und schlagen andernfalls fehl. Universelle Funktionen wie AI.GENERATE sind weiterhin erfolgreich, übersprungene Zeilen enthalten aber keinen generierten Wert, und ihr Statusfeld enthält den Fehler zur Kontingentüberschreitung.

Google Cloud grenzt die Kontingente außerdem von den Ausgabenlimits in Cloud Billing ab. Token-Kontingente seien präventiv und KI-spezifisch, während Ausgabenlimits in Dollar auf Projekt- und Dienstebene arbeiteten. Da die Durchsetzung von Ausgabenlimits nicht sofort erfolgt, fallen laut Unternehmen teils Mehrkosten an. Es empfiehlt Token-Kontingente als erste Verteidigungslinie und ein Ausgabenlimit als projektweites Sicherheitsnetz.

Kontingente dimensionieren mit AI.COUNT_TOKENS und ein Rechenbeispiel

Für die Wahl der Kontingentwerte verweist Google Cloud auf die Funktion AI.COUNT_TOKENS. Sie gibt die Zahl der Tokens zurück, die der Tokenizer eines Modells für einen Text erzeugt, ohne einen kostenpflichtigen Generierungsaufruf auszulösen. Die Zahl ist eine Untergrenze für Input-Tokens: Sie lässt Output- und Thinking-Tokens, die von jeder KI-Funktion um die Eingabe herum ergänzten Anweisungen sowie nicht textuelle Eingaben wie Bilder außen vor.

Der Beitrag enthält ein Budgetbeispiel, um die täglichen KI-Ausgaben eines Projekts mit dem Modell Gemini 3.1 Flash-Lite bei rund 100 US-Dollar zu halten. Nach den zum Zeitpunkt des Schreibens veröffentlichten Preisen, die einen Rabatt von 50 Prozent für die Batch-Verarbeitung von BigQuery berücksichtigen, kosten Input-Tokens 0,125 US-Dollar pro 1 Million und Output-Tokens (Antwort und Reasoning) 0,75 US-Dollar pro 1 Million. Bei einem in einem Probelauf ermittelten Verhältnis von 100:1 zwischen Input- und Output-Tokens kommt Google Cloud auf etwa 754 Millionen Input-Tokens und 7,54 Millionen Output-Tokens pro Tag.

Die Empfehlungen des Unternehmens: zunächst Kontingente pro Nutzer festlegen, damit ein einzelner Nutzer oder ein außer Kontrolle geratenes Experiment nicht das Budget eines Projekts aufzehren kann, vor dem Hochskalieren mit AI.COUNT_TOKENS und einem kleinen Probelauf messen, max_output_tokens setzen, wo eine Funktion dies erlaubt, da Output-Tokens teurer sind, und die Limits bei veränderter Nutzung und Budgets anpassen.

Was das für BigQuery-Teams bedeutet

Für Organisationen, die LLM-gestütztes SQL in großem Maßstab betreiben, bietet die Funktion Administratoren eine Self-Service-Möglichkeit, den Tokenverbrauch zu deckeln, bevor sich Kosten aufbauen, statt sich nur auf Limits in Dollar zu verlassen. Google Cloud zufolge ist die tokenbasierte Kostenkontrolle ab sofort verfügbar, Details stehen in der Dokumentation zur Kontrolle der Kosten generativer KI.