Scale AIs AgentEnv-Evaluierungen laufen jetzt auf Vercel Sandbox

AgentEnv, das Framework von Scale AI zum Testen von Agenten anhand von Aufgaben und zur Bewertung ihrer Ergebnisse, läuft jetzt auf Vercel Sandbox. Laut Vercel ist der Provider ab AgentEnv 0.9.1334 enthalten.
- AgentEnv, Scale AIs Framework zum Testen von Agenten und zur Bewertung ihrer Ergebnisse, läuft jetzt auf Vercel Sandbox.
- Der Vercel-Provider ist ab AgentEnv 0.9.1334 enthalten.
- Der Agent und seine Aufgabenumgebung laufen in getrennten Sandboxes.
- Ein Beispiel ermöglicht es, den Score der Aufgabe und die aufgezeichneten Aktionen des Agenten einzusehen.
- Der Ausführungsbefehl nutzt die bestehende Vercel-CLI-Anmeldung und benötigt einen Team-Slug sowie den Namen eines bestehenden Projekts.
Was Vercel ergänzt hat
Vercel hat in seinem Changelog bekanntgegeben, dass AgentEnv, das von Scale AI entwickelte Framework zum Testen von Agenten anhand von Aufgaben und zur Bewertung ihrer Ergebnisse, Vercel Sandbox jetzt als Ausführungsumgebung nutzen kann. Die Unterstützung kommt als Vercel-Provider, der in AgentEnv ab Version 0.9.1334 enthalten ist.
Der Provider verfolgt beim Thema Isolation einen bestimmten Ansatz. Laut Vercel führt er den Agenten und dessen Aufgabenumgebung in getrennten Sandboxes aus. Der zu evaluierende Agent und die Umgebung, in der er arbeitet, teilen sich somit keine gemeinsame Laufzeitumgebung.
So führen Sie eine Evaluierung aus
Vercel verweist Entwickler auf ein AgentEnv-Beispiel, das eine Evaluierung auf Vercel Sandbox ausführt. Damit lassen sich der Score der Aufgabe und die aufgezeichneten Aktionen des Agenten einsehen. Das umfasst sowohl das Ergebnis des Tests als auch die Schritte, die der Agent dafür unternommen hat.
Am Anfang steht die Einrichtungsanleitung. Ist sie abgeschlossen, wird der Befehl aus dem geklonten Repository ausgeführt. Er nutzt die bestehende Anmeldung in der Vercel CLI:
- Befehl: ./vercel-eval --scope YOUR_TEAM --project YOUR_PROJECT
- YOUR_TEAM: durch den Slug des eigenen Vercel-Teams ersetzen.
- YOUR_PROJECT: durch den Namen eines bestehenden Projekts ersetzen.
Da der Befehl auf ein bestehendes Projekt zurückgreift, muss im Vercel-Konto bereits ein Projekt eingerichtet sein, bevor die Evaluierung gestartet wird.
Was das für Entwickler bedeutet
Für Teams, die bereits Vercel nutzen, bietet die Änderung die Möglichkeit, AgentEnv-Evaluierungen über die vorhandene CLI-Anmeldung und Projekteinrichtung auf Vercel Sandbox auszuführen. Die Trennung von Agent und Aufgabenumgebung in zwei Sandboxes ist das wichtigste Designdetail, das Vercel hervorhebt.
Die Ankündigung fällt knapp aus und enthält neben der Versionsnummer weder Leistungsangaben noch Preise oder Details zur Verfügbarkeit. Weitere Informationen finden Entwickler in der Dokumentation zum Sandbox-Ökosystem, die Vercel im Changelog-Eintrag verlinkt.
Vercel: Run Scale AI’s AgentEnv evals on Vercel Sandbox


