Arize bringt seinen KI-Engineering-Agenten Alyx auf den Google Cloud Marketplace

Was Alyx in Gemini Enterprise leistet

Innerhalb von Arize AX arbeitet Alyx mit Traces, Evaluierungen, Datensätzen und Experimenten, um mehrstufige Engineering-Aufgaben zu planen und auszuführen. Dazu gehören laut Arize die Untersuchung von Fehlern, der Aufbau von Evaluierungen und das Testen von Prompt-Verbesserungen anhand von Belegen. Die Gemini-Enterprise-Version macht den Untersuchungsteil dieser Arbeit einem breiteren Publikum zugänglich.

Nutzer können etwa fragen: "Wie schlägt sich mein Kundensupport-Agent diese Woche?" Alyx durchsucht daraufhin die Traces in Arize, gruppiert zusammenhängende Fehler und liefert eine Diagnose, die durch die zugrunde liegenden Spans und Tool-Aufrufe belegt ist. Die Ergebnisse erscheinen im Gemini-Enterprise-Chat als strukturierte, interaktive Komponenten statt als Textblock.

Warum Arize das entwickelt hat

Arize argumentiert, dass die meisten Menschen, denen es wichtig ist, ob ein KI-Agent funktioniert, ihn nicht selbst gebaut haben. Als Beispiele nennt das Unternehmen Produktmanager, Support-Leiter, Risiko- und Compliance-Teams sowie Verantwortliche aus den Fachbereichen. Um Antworten zu bekommen, müsse man derzeit meist einen Entwickler bitten, ein Dashboard aufzurufen.

Da viele dieser Teams bereits in Gemini Enterprise arbeiten, kann dort jeder mit einem Arize-Konto eine durch Traces belegte Antwort zur Qualität eines Agenten erhalten. Wer für Änderungen zuständig ist, nimmt diese weiterhin in Arize AX vor. Laut Arize entspricht genau diese Aufteilung dem Wunsch seiner Unternehmenskunden aus der Finanzbranche und anderen regulierten Branchen: Alle sehen, wie ein Agent abschneidet, aber nur berechtigte Personen dürfen ihn verändern.

Offene Standards und Zugriffskontrolle

Alyx ist über das Agent2Agent-Protokoll (A2A) an Gemini Enterprise angebunden. Es wurde von Google Cloud entwickelt und gehört inzwischen zur Linux Foundation. Über A2A kann Gemini Enterprise erkennen, was Alyx kann, ihm eine Aufgabe übergeben und Ergebnisse sowie Statusmeldungen in einem Standardformat empfangen. Laut Arize ist dafür auf Kundenseite keine individuelle Integrationsarbeit nötig.

Der Eintrag setzt außerdem A2UI um, Googles Agent-to-UI-Spezifikation, mit der Agenten statt reinem Text umfangreiche UI-Komponenten zurückgeben können. So erscheinen die Untersuchungsergebnisse als strukturierte Karten. Die Authentifizierung läuft über OAuth, sodass Alyx nur die Arize-Spaces sieht, für die der angemeldete Nutzer bereits berechtigt ist.

Umfang, Kosten und nächste Schritte

Die erste Version konzentriert sich auf Untersuchung und Erkenntnisgewinn: Fragen zur Leistung von Agenten stellen, Fehler finden und gruppieren und verstehen, was schiefgelaufen ist. Maßnahmen zur Behebung wie das Bearbeiten von Prompts, das Durchführen von Experimenten und das Aktualisieren von Evaluatoren bleiben in Arize AX, wo bereits der volle Umfang an Kontrollen und Prüfschritten existiert. Der Gemini-Enterprise-Agent steht Arize-AX-Kunden laut Arize ohne zusätzliche Kosten zur Verfügung.

Arize arbeitet nach eigenen Angaben an einer tieferen Integration für Teams, die Agenten auf Gemini Enterprise entwickeln, damit die Behebung künftig neben der Untersuchung stattfinden kann. Das erklärte Ziel ist es, einen Agenten von der Erkenntnis über das Experiment bis zur Verbesserung zu führen, ohne Gemini Enterprise zu verlassen. In den Worten des Unternehmens: "Heute sagt Alyx Ihnen, was falsch ist; die nächste Version hilft Ihnen, es am selben Ort zu beheben." Ein Datum für diese Version nennt die Quelle nicht.

Dai Vu, Managing Director, Marketplace & ISV GTM Programs bei Google Cloud, sagte, der Marketplace-Eintrag werde "Kunden dabei helfen, den KI-Engineering-Agenten Alyx des Unternehmens schnell auf der vertrauenswürdigen, globalen Infrastruktur von Google Cloud bereitzustellen, zu verwalten und auszubauen."

Was das für Teams bedeutet

Für bestehende Arize-AX-Kunden auf Google Cloud bietet der Eintrag die Möglichkeit, das Monitoring von Agenten über die Entwicklungsabteilung hinaus auszudehnen. Nicht-Entwickler können in Gemini Enterprise Fragen stellen und erhalten Antworten, die an echte Traces gebunden sind, während Änderungen hinter den bestehenden Berechtigungen bleiben. Zum Start suchen Nutzer Alyx im Google Cloud Marketplace, fügen den Agenten ihrer Gemini-Enterprise-Umgebung hinzu und melden sich mit ihrem Arize-Konto an. Teams, die Arize noch nicht nutzen, können eine Demo anfordern, die Alyx sowohl in Arize AX als auch in Gemini Enterprise zeigt.