Liquid AI d1-ultra jetzt über Vercels AI Gateway verfügbar

Ein Modell, das Wahrscheinlichkeiten statt Fließtext liefert

Laut Vercel ist d1-ultra ein multimodales Entscheidungsmodell für Klassifizierung, Routing und Scoring über Text und Bilder hinweg. Zu den genannten Anwendungsfällen zählen die visuelle Fehlerprüfung und der Abgleich von Schadensmeldungen mit Kundenfotos.

Statt frei formulierten Text zu erzeugen, gibt das Modell strukturierte Antworten mit Wahrscheinlichkeiten aus. Vercel beschreibt drei Fragetypen:

• Boolean: liefert die Wahrscheinlichkeit für eine Ja- oder Nein-Antwort.
• Choice: wählt aus benannten Kategorien aus.
• Score: bewertet eine Eingabe auf einer geordneten Skala.

Entwickler können in einer einzigen Anfrage mehrere Fragen zur selben Eingabe stellen. Anhand der Wahrscheinlichkeiten lässt sich dann entscheiden, wann eine Aktion automatisiert werden kann und wann eine menschliche Prüfung nötig ist.

Vercel zufolge ist d1-ultra für schwierigere Entscheidungen im realen Einsatz konzipiert, mit Schwerpunkt auf kalibrierten Wahrscheinlichkeiten.

Kontextfenster, Abrechnung und Nutzung

Das Modell unterstützt ein Kontextfenster von 32.768 Token. Abgerechnet werden ausschließlich Eingabe-Token, einschließlich Bildeingaben; Gebühren für Ausgabe-Token fallen nicht an. Als Modellname ist liquid/d1-ultra zu verwenden.

Im Changelog von Vercel findet sich ein Codebeispiel mit dem AI SDK. Es importiert experimental_decide aus dem Paket ai und übergibt den Modellnamen, eine Textbeschreibung des Falls sowie eine Reihe von Fragen. Im Beispiel meldet ein Kunde, dass ein geliefertes Laptop einen gesprungenen Bildschirm hat, und eine Boolean-Frage klärt, ob der Kunde angibt, dass der Artikel beschädigt angekommen ist. Das Ergebnis wird über result.answers.damaged ausgelesen.

Laut Quelle lässt sich dieselbe Frage auch über eine OpenAI-kompatible Decisions API und eine TypeSafe-kompatible API stellen. Vercel verweist für Fragetypen und weitere Details zur Nutzung auf die Dokumentation zu Entscheidungsmodellen und für erste Tests von d1-ultra auf einen Model Playground.

Einbindung in das AI Gateway

Das AI Gateway ist Vercels einheitliche API für den Zugriff auf Modelle und die Erfassung von Nutzung und Kosten. Entscheidungsaufrufe erscheinen in den Logs und zählen wie andere Modellanfragen zu den Budgets.

Vercel erklärt, dass das AI Gateway die Preise der Anbieter ohne Aufschlag weitergibt und keine Plattformgebühr auf Inferenz erhebt, auch nicht bei Anfragen mit eigenem Schlüssel (Bring Your Own Key). Alle im Gateway verfügbaren Entscheidungsmodelle führt das Unternehmen zudem auf einer eigenen Seite auf.

Was das für Entwickler bedeutet

Für Teams, die Fälle automatisch weiterleiten oder vorprüfen, etwa bei Schadensprüfungen im Versicherungsstil oder in der Qualitätskontrolle, bietet das Format die Möglichkeit, Automatisierung auf eine Wahrscheinlichkeit statt auf das Auswerten generierten Texts zu stützen. Weil sich zu einer Eingabe mehrere Fragen in einer Anfrage stellen lassen und nur Eingabe-Token berechnet werden, kann ein einzelnes Bild oder eine einzelne Beschreibung gegen mehrere Kriterien bewertet werden. Leistungskennzahlen zu d1-ultra nennt Vercel in der Ankündigung nicht, die Qualität der Kalibrierung müssen Nutzer daher selbst mit eigenen Daten testen.