Arize AX wird Launch-Partner für MongoDBs Atlas Agent Engine

Was die Atlas Agent Engine bietet

Laut Arize ist die Atlas Agent Engine eine kontrollierte Grundlage, um KI-Agenten im Produktivbetrieb zu entwickeln, bereitzustellen und zu betreiben. Sie ist so angelegt, dass sie modell- und frameworkübergreifend funktioniert, und Unternehmensteams können ihre bestehenden Authentifizierungs- und Sicherheitswerkzeuge weiterverwenden. Arize zufolge können Organisationen so auf Technologien aufbauen, denen sie bereits vertrauen, ohne ihre Agenten-Infrastruktur neu aufsetzen zu müssen.

MongoDB startet das Produkt mit Partnern, die Unternehmen beim Weg vom Agenten-Prototyp in die Produktion unterstützen. Arize beschreibt seine eigene Rolle so: Das Unternehmen steuert Observability und Evaluierung auf Trace-Ebene bei, damit Teams jeden Agentenlauf nachvollziehen, Ergebnisse und Ausführungspfade messen und Agenten vor dem erneuten Deployment verbessern können.

Warum Traces bei Agenten wichtig sind

Arize argumentiert, dass ein Agent auch dann scheitern kann, wenn seine endgültige Antwort plausibel wirkt. Er ruft womöglich das falsche Dokument ab, nutzt das falsche Tool, wiederholt einen Schritt oder setzt ein teures Modell ein, wo ein kleineres genauso gut funktionieren würde. Solche Probleme lassen sich nur mit Telemetriedaten aus dem gesamten Ausführungspfad finden, nicht allein anhand der finalen Ausgabe.

Arize AX nimmt Trace-Daten aus Läufen der Agent Engine auf, sodass Teams auf Span-Ebene Folgendes prüfen können:

• Modellaufrufe
• Retrieval-Schritte
• Tool-Aufrufe
• Latenz
• Token-Verbrauch

Agent Graphs in Arize AX rekonstruieren den tatsächlich ausgeführten Pfad. Das hilft zu erkennen, an welcher Stelle das Verhalten von den Erwartungen abwich.

Der zweite Baustein ist die Evaluierung. Teams können Online-Evaluierungen auf Produktivdaten laufen lassen, sowohl die finale Ausgabe als auch den Ausführungspfad bewerten und Fehlschläge zur Prüfung in Annotation Queues leiten. Geprüfte Beispiele lassen sich zu Datensätzen für Experimente machen, sodass sich eine geplante Änderung vor dem erneuten Deployment vergleichen lässt. Arize AX enthält außerdem ein agentisches System namens Signal, das Fehler und Probleme automatisch erkennt und anschließend Lösungen samt vorgeschlagenem Pull Request empfiehlt.

Offene Standards und Einrichtung

Arize AX nimmt Traces nativ auf, die den OpenTelemetry-GenAI-Semantic-Conventions folgen, ebenso wie OpenInference. Laut Arize kann jede Agent-Laufzeitumgebung, die auf der Agent Engine OTLP ausgibt, Traces ohne eigenen Instrumentierungscode an Arize senden. Weil die Integration auf offenen Standards beruht, behalten Teams ihre Flexibilität bei Frameworks, Modellen und Observability-Backends.

Die Verbindung beider Systeme umfasst einige Schritte:

• In Arize die Space ID, einen API-Schlüssel und die Modell- bzw. Projekt-ID (model_id) bereitstellen.
• In der Agent Engine ein Projekt-Secret anlegen, das ausschließlich den Arize-API-Schlüssel enthält.
• Auf der Traces-Seite die Trace-Export-Leiste öffnen und den Trace-Export aktivieren.
• Das Arize-Preset wählen, mit dem OTLP-Endpunkt https://otlp.arize.com/v1/traces und dem Protokoll HTTP/protobuf.
• space_id und model_id eintragen, den Secret-Namen referenzieren und den Namen des Auth-Headers auf api_key setzen.
• Unter Delivery den Egress-Modus auf Agent Engine + customer mirror (bzw. Platform + customer mirror, wenn das Branding-Flag deaktiviert ist), den Content-Modus auf Full content und das Sampling auf Always on setzen.

Arize weist darauf hin, dass derzeit nur der Content-Modus Full content funktioniert und dass er Prompts, Completions und Tool-Payloads überträgt. Nach dem Speichern führen Nutzer einen Agentenaufruf aus und prüfen, ob die Spans in Arize unter dem gewählten Space und Modell erscheinen.

Was das für Teams bedeutet

Arize beschreibt den kombinierten Workflow als kontinuierlichen Kreislauf: auf der Agent Engine entwickeln und bereitstellen, Läufe in Arize untersuchen und evaluieren, Korrekturen an echten Produktivdaten testen und mit belastbaren Belegen erneut ausrollen. Arize zufolge sind beide Produkte framework- und modellneutral, und die Integration biete gemeinsamen Kunden von Beginn an einen direkten, unterstützten Weg.

Jason Lopatecki, Mitgründer und CEO von Arize AI, sagte, Agenten wanderten aus Demos in Produktions-Workflows, wo Zuverlässigkeit sowohl vom Kontext abhänge, auf dem sie handeln, als auch von der Fähigkeit, zu verstehen, was zur Laufzeit passiert sei. Für Teams, die bereits Agenten auf MongoDB betreiben, eröffnet die Integration einen Weg zu Trace-Analyse und Evaluierung. Da der Export im Modus Full content Prompts, Completions und Tool-Payloads überträgt, sollten Teams das bei der Aktivierung bedenken.