Vercel nimmt Microsoft AIs Decision-1.1 in AI Gateway auf

Vercel stellt Microsoft AIs Decision-1.1 über AI Gateway bereit und bietet Entwicklern damit ein Modell, das strukturierte Entscheidungen statt frei formulierter Texte zurückgibt. Das Modell ist für Aufgaben wie das Routing von Supportanfragen, die Auswahl von Workflow-Schritten und die Bewertung von KI-Antworten ausgelegt.
- Decision-1.1 von Microsoft AI ist jetzt über Vercel AI Gateway verfügbar.
- Das Modell liefert Boolean-, Choice- und Score-Antworten.
- Mehrere Fragen können in einer Anfrage dieselbe Eingabe verwenden.
- Entwickler wechseln von Decision-1, indem sie die Modell-ID ändern.
- Anfragen erscheinen in Protokollen, werden auf Budgets angerechnet und unterstützen Fallbacks.
Strukturierte Antworten für Entscheidungsaufgaben
Decision-1.1 liefert mehrere Arten strukturierter Antworten. Ein Boolean gibt die Wahrscheinlichkeit an, dass eine Bedingung wahr ist. Ein Choice identifiziert eine ausgewählte Kategorie und liefert Wahrscheinlichkeiten für jede Option. Ein Score stellt eine numerische Bewertung auf einer vom Entwickler festgelegten Skala bereit.
Mehrere Fragen können in einer einzigen Anfrage dieselbe Eingabe verwenden. In Vercels Beispiel lautet die Eingabe: „I was charged twice for one order.“ Die Anfrage fordert das Modell auf, die zuständige Abteilung auszuwählen. Dafür stehen die Kategorien Abrechnung und Technik mit jeweils eigener Beschreibung zur Verfügung.
So wechseln Entwickler zu Decision-1.1
Decision-1.1 akzeptiert dasselbe Anfrageformat wie Decision-1. Entwickler können wechseln, indem sie die Modell-ID in microsoft/decision-1.1 ändern.
Vercel zufolge kann das Modell über das AI SDK, die OpenAI-kompatible Decisions API oder die AI CLI aufgerufen werden. Für die TypeScript-Beispiele ist ai 7.0.128 oder höher erforderlich, für die Python-Beispiele das OpenAI Python SDK 3.26.0 oder höher.
Das veröffentlichte TypeScript-Beispiel importiert experimental_decide aus dem AI SDK, übermittelt einen Status und eine Reihe von Fragen und liest die ausgewählte Abteilung aus den zurückgegebenen Antworten aus. Dadurch steht ein strukturierter Wert für die Anwendungslogik zur Verfügung, anstatt dass eine Anwendung eine frei formulierte Modellantwort interpretieren muss.
Anfragen sind in Vercels Plattformkontrollen eingebunden
Anfragen an Decision erscheinen laut Vercel in den Anfrageprotokollen, werden auf Budgets angerechnet und unterstützen Fallbacks für Entscheidungen. Damit ist das Modell in dieselben Überwachungs- und Kontrollmechanismen eingebunden, die in der Ankündigung für Anfragen an AI Gateway beschrieben werden.
Entwickler können Decision-1.1 im Modell-Playground ausprobieren oder Vercels Dokumentation zu Entscheidungsmodellen für Anfrageformate und Fragetypen konsultieren. Die Ankündigung bietet Entwicklern eine Möglichkeit, das Modell zu testen und bestehende Decision-1-Anfragen durch eine Änderung der Modell-ID anzupassen.
Für Nutzer von AI Gateway erweitert die Ergänzung die verfügbaren Optionen für Anwendungen, die kategorisierte, bewertete oder probabilistische Ausgaben benötigen. Die Quelle positioniert Decision-1.1 ausdrücklich für das Routing von Supportanfragen, Workflow-Entscheidungen und die Bewertung von KI-Antworten, nicht für die allgemeine Generierung frei formulierter Texte.
Vercel: Decision-1.1 now available on AI Gateway


