Cline integriert Jev-Entscheidungsmodelle für schnelle, günstige Agenten-Leitplanken und Browsing

Eine andere Schnittstelle als die Chat-Schleife

Die meisten modernen Agenten beruhen auf einer vertrauten Schleife: Prompt an ein LLM senden, das Modell nachdenken lassen und die Antwort über eine chatbasierte API empfangen. Clines Beitrag beschreibt einen anderen Ansatz, der sich gerade abzeichnet und auf APIs für strukturierte Entscheidungsfindung basiert, der sogenannten Decisions API.

TypeSafe AI hat soeben Jev vorgestellt, ein Decisions-Modell, das zwei der größten Probleme herkömmlicher LLMs angehen soll: Latenz und Kosten. Statt Token auszugeben, nimmt Jev einen Zustand entgegen, also den Kontext in einer bestimmten Struktur, und liefert für jede dazu gestellte Frage ein Ergebnis. Das Ergebnis kann eine Auswahl, ein Score oder ein Noul sein, was Cline als die Wahrscheinlichkeit definiert, dass eine Aussage zutrifft. Diese Werte lassen sich nutzen, um Ergebnisse neu zu ranken, zu priorisieren oder sofort zu entscheiden.

Laut Cline spielt Jev seine Stärken dort aus, wo innerhalb eines strukturierten Rahmens sofortige Entscheidungen nötig sind. Ein einfaches Beispiel ist ein Before-Tool-Hook, mit dem Jev beurteilt, ob ein Aufruf gefährlich ist, und ihn dann blockiert oder durchlässt.

So funktioniert eine Jev-Anfrage

Eine Anfrage nennt das Modell (jev-latest), einen Zustand und eine Reihe von Fragen. Clines Beispiel beschreibt einen Coding-Agenten, der im Repository eines Nutzers npm install left-pad-utils@latest --save ausführen will. Die Anfrage stellt drei Fragen: Welche Art von Aktion löst der Befehl aus (eine Auswahl), wie riskant ist es, ihn ohne Rückfrage beim Nutzer auszuführen (ein Score), und lädt er Remote-Code herunter und führt ihn aus (ein Noul)?

Laut Cline kam die Antwort nach 318 ms. Jev stufte den Befehl als network_and_system_changes mit einer Konfidenz von 0,72 ein, vergab einen Risiko-Score von 1,01 bei einer Konfidenz von 0,58 und lieferte für die Ausführung von Remote-Code einen Noul von 0,82. Cline deutet diesen letzten Wert als 82 Prozent Wahrscheinlichkeit, dass der Befehl Code aus dem Internet nachlädt.

Drei Cline-Plugins auf Basis von Jev

• jev-browser gibt Jev einen echten Browser innerhalb von Cline. Statt der üblichen Schleife, bei der ein Screenshot der Seite gemacht wird und ein Modell entscheidet, wohin geklickt wird, wählt Jev die nächste Aktion aus einer Liste von Buttons, Links und Feldern. Wenn Jev stoppt, prüft Cline den letzten Screenshot, um zu bestätigen, dass die Aufgabe erledigt wurde. Die Installation erfolgt über die Desktop-App unter Customize > Marketplace > Plugins > jev-browser, zusätzlich muss ein Vercel-AI-Gateway-Schlüssel in ~/.cline/plugins/cline-jev-browser.config.json hinterlegt werden.
• jev-playground verwandelt über eine Weboberfläche einen vagen Prompt in eine Jev-Anfrage. Da das Schreiben von Jev-Eingaben für Menschen, die in Sätzen denken, schwierig sein kann, richtet das LLM von Cline Kontext, Fragen und Kategorien ein. Der Nutzer kann sie anschließend bearbeiten und auf Ask Jev klicken, woraufhin die Seite direkt mit Jev kommuniziert, ganz ohne LLM dazwischen. Clines Beispiel war ein Setup, das entscheidet, ob ein Kandidat in die nächste Interviewrunde kommen soll.
• jev-guard erstellt Guardrails für einen ausgewählten Workspace und lässt Tool-Aufrufe beurteilen, bevor das LLM darauf reagieren kann. Nutzer beschreiben, was geschützt werden soll, etwa einen Agenten für ein Support-Postfach, den Leute dazu bringen wollen, Erstattungen auf fremde Bankkonten zu überweisen. Cline macht daraus definierte Guardrails mit Beispiel-Auslösern. Ein Cline-Hook prüft dann automatisch jedes Tool-Ergebnis im geschützten Ordner, sodass der Agent nicht daran denken muss, ihn aufzurufen.

Was das für Entwickler von Agenten bedeutet

Cline fasst die Aufteilung so zusammen: Das LLM kümmert sich um Sprache, Jev um die schnellen Entscheidungen. Laut dem Unternehmen wird es dadurch praktikabel, Prüfungen für jedes Tool-Ergebnis laufen zu lassen, ohne nennenswerten Mehraufwand zu erzeugen.

Die Kosten können weiter sinken, wenn die LLM-Seite mit offenen Modellen läuft. Cline zufolge läuft die Browser-Demo auf ClinePass, einem Abo für 9,99 $ im Monat, das Zugang zu einer kuratierten Auswahl von Open-Weight-Modellen wie DeepSeek, Kimi, GLM und Qwen bietet, mit rund der fünffachen Nutzung im Vergleich zu den Standard-API-Preisen. Nutzer können in Cline außerdem jedes beliebige Modell verwenden.