Vercel integriert Liquid AIs d1.2-Modelle in AI Gateway

Liquid AIs Entscheidungsmodelle d1.2 und d1.2-ultra sind jetzt über Vercels AI Gateway verfügbar. Sie unterstützen Audioeingaben und Begrenzungsrahmen für Bilder. Statt generierten Text auszugeben, liefern die Modelle strukturierte Antworten für Klassifizierung, Bewertung und die Lokalisierung von Objekten.
- Liquid AIs d1.2 und d1.2-ultra sind in Vercel AI Gateway verfügbar.
- Die Modelle unterstützen Audioeingaben und Fragen zu Begrenzungsrahmen in Bildern.
- d1.2 wird als schneller und kostengünstiger beschrieben, während d1.2-ultra das genaueste Modell ist.
- Entscheidungsanfragen erscheinen in den AI-Gateway-Protokollen und werden auf Budgets angerechnet.
Strukturierte Antworten für Entscheidungsaufgaben
Laut Vercel sind die Modelle für Entscheidungsanfragen ausgelegt, die strukturierte Ergebnisse liefern. Entwickler können Boolesche Fragen stellen, die Wahrscheinlichkeiten für Ja oder Nein zurückgeben, Auswahlfragen zur Bestimmung einer Kategorie oder Bewertungsfragen, die eine Eingabe anhand eines Kriterienrasters beurteilen.
Mehrere Fragen können in einer einzigen Anfrage dieselbe Eingabe verwenden. Dadurch kann eine Audiodatei, ein Bild oder eine andere Eingabe mehrere Entscheidungen unterstützen, ohne dass für jede Frage eine separate Anfrage erforderlich ist.
Vercel beschreibt d1.2 als das schnellere und kostengünstigere Modell, während d1.2-ultra das genaueste Entscheidungsmodell von Liquid AI ist. Entwickler können die Modelle in AI Gateway mit den Modellnamen liquid/d1.2 und liquid/d1.2-ultra auswählen.
Beispiele für Audio und Bilder
Vercels Beispiel für das AI SDK verwendet liquid/d1.2-ultra, um eine Sprachnachricht zu klassifizieren. Die Audiodatei wird als Dateiteil übergeben, und die Anfrage fragt, ob der Anrufer eine Rückerstattung verlangt. Die Antwort gibt das Ergebnis als Wahrscheinlichkeit aus. Für das Beispiel ist ai 7.0.136 oder höher erforderlich; verwendet wird die Funktion experimental_decide.
Für die Bildklassifizierung können Entwickler laut Vercel Bilddaten zusammen mit dem passenden Medientyp übergeben, etwa image/png. Ein separates Python-Beispiel verwendet die Decisions API, um ein rotes Rechteck in einem Bild zu lokalisieren. Box-Fragen geben die obere und untere Begrenzung als Anteil der Bildhöhe sowie die linke und rechte Begrenzung als Anteil der Bildbreite zurück.
Vor dem Senden von Anfragen müssen Entwickler AI_GATEWAY_API_KEY auf einen AI-Gateway-API-Schlüssel setzen. Das Bildbeispiel sendet seine Anfrage an https://ai-gateway.vercel.sh/v1/decisions.
Was die Integration für Entwickler bedeutet
Die Erweiterung bietet Nutzern von AI Gateway eine Möglichkeit, entscheidungsorientierte Aufgaben über die beiden Modelle von Liquid AI zu leiten. Dafür stehen Schnittstellen sowohl für das AI SDK als auch für die Decisions API zur Verfügung. Zu den dokumentierten Anwendungsfällen gehören die Prüfung, ob eine Sprachnachricht eine Rückerstattungsanfrage enthält, und die Lokalisierung eines Objekts in einem Bild.
Diese Anfragen sind laut Vercel in den AI-Gateway-Protokollen sichtbar und werden auf Budgets angerechnet. Entwickler finden weitere Informationen in der Dokumentation zu Entscheidungsmodellen oder können die verfügbaren Entscheidungsmodelle durchsuchen.
Die Ankündigung erweitert die von der Integration unterstützten Eingabetypen über textorientierte Workflows hinaus. Audiodateien können für Boolesche Entscheidungen verwendet werden, während Bilder in einer strukturierten Antwort Begrenzungsrahmendaten liefern können.


