Vercel Agent: Sitzungen kosten im Schnitt 67 Prozent weniger

Sitzungen mit Vercel Agent im Dashboard und in Slack kosten nach Angaben von Vercel jetzt im Durchschnitt 67 Prozent weniger. Das Unternehmen hat die Verwaltung des Kontexts neu aufgebaut. Dadurch sinkt der Tokenbedarf pro Sitzung, und der Prompt-Cache wird besser wiederverwendet.
- Sitzungen mit Vercel Agent im Dashboard und in Slack kosten laut Vercel im Schnitt 67 Prozent weniger.
- Die Einsparungen resultieren aus geringerem Tokenverbrauch pro Sitzung und besserer Wiederverwendung des Prompt-Caches.
- Die Verbesserungen sind bereits aktiv und erfordern keine Maßnahmen der Nutzer.
- Die Abrechnungssätze bleiben gleich: Inferenzpreise des Modellanbieters plus eine Vercel-Agent-Gebühr von 0,25 US-Dollar pro Million Tokens.
- Nutzung und Kosten lassen sich im Bereich „Agent“ des Dashboards einsehen.
Was Vercel geändert hat
Laut Vercel stammen die Einsparungen aus einem Umbau der Art und Weise, wie Agent mit Kontext umgeht. Die Änderungen sind bereits live, Nutzerinnen und Nutzer müssen nichts unternehmen, um davon zu profitieren.
Das Unternehmen nennt vier Verbesserungen:
- Workflow-basierte CLI-Skills: Aktualisierte Vercel-CLI-Skills geben Agents klarere Anleitungen für gängige Workflows und die Fehlerbehebung. Vercel zufolge profitieren auch andere Agents, die diese Skills nutzen.
- Inkrementelles Kontextmanagement: Agent verwaltet den Kontext effizienter, wenn Unterhaltungen länger werden, auch bei langen Slack-Threads.
- Verbessertes Prompt-Caching: Agent bewahrt über mehrere Gesprächsrunden hinweg mehr wiederverwendbaren Kontext, sodass mehr davon aus dem Cache gelesen werden kann.
- Effizienteres Coding und Planen: Überarbeitete Vorgaben helfen Agent, Änderungen zu planen und Code mit weniger Tokens zu schreiben.
Abrechnungssätze bleiben unverändert
Die niedrigeren Kosten sind nicht das Ergebnis einer Preissenkung. Vercel erklärt, dass die Abrechnungssätze von Vercel Agent unverändert bleiben. Kostenpflichtige Sitzungen werden zu den Inferenzpreisen des Modellanbieters abgerechnet, zuzüglich einer Vercel-Agent-Gebühr von 0,25 US-Dollar pro Million Tokens.
Da sich die Kosten am Tokenverbrauch orientieren, ist eine Sitzung mit weniger Tokens bei gleichen Sätzen günstiger. Eine bessere Cache-Nutzung bedeutet zudem, dass mehr Kontext über mehrere Runden hinweg aus dem Cache gelesen werden kann, statt erneut verarbeitet zu werden. Die 67 Prozent sind ein von Vercel angegebener Durchschnittswert, die Ersparnis in einer einzelnen Sitzung kann daher abweichen.
Was das für Nutzer bedeutet
Teams, die Agent-Sitzungen im Vercel-Dashboard oder in Slack ausführen, dürften niedrigere Kosten sehen, ohne ihre Konfiguration ändern zu müssen. Lange Slack-Threads nennt Vercel ausdrücklich als Fall, in dem der Kontext nun effizienter verarbeitet wird.
Die eigenen Zahlen lassen sich im Bereich „Agent“ des Dashboards prüfen, wo laut Vercel Nutzung und Kosten angezeigt werden. Die aktualisierten CLI-Skills könnten auch über das eigene Produkt von Vercel hinaus nützlich sein, da das Unternehmen sagt, dass andere Agents, die sie verwenden, ebenfalls profitieren.
Im Changelog-Eintrag werden Kathryn Middleton, Shilpa Apte und Pranav Kanchi als Beteiligte genannt.
Vercel: Vercel Agent sessions now cost 67% less


