New Relic bewertet mit AI Evaluation die LLM-Qualität direkt in Traces
New Relic hat AI Evaluation vorgestellt, eine neue Funktion in seinem Produkt AI Observability. Sie bewertet Prompts und Antworten von LLMs im Live-Betrieb nach Genauigkeit, Sicherheit und Relevanz und hängt die Ergebnisse an verteilte Traces. Laut Unternehmen zielt sie auf semantische Fehler wie Halluzinationen und PII-Lecks, die klassisches Monitoring nicht erkennt.
- New Relic AI Evaluation ist eine Funktion in New Relic AI Observability und basiert auf einem asynchronen LLM-as-a-Judge-Dienst.
- Jede Interaktion erhält einen Score von 0 bis 1, einen Pass/Fail-Status auf Basis anpassbarer Schwellenwerte und eine Begründung, die an verteilte Traces angehängt werden.
- Sofort einsatzbereite Evaluatoren decken Prompt Injection, Jailbreaks, PII-Lecks, Toxizität, Bias, Faithfulness und Relevanz ab.
- Konfigurierbares Sampling, etwa Prüfungen bei 10 Prozent der Transaktionen, soll den Aufwand der Bewertung begrenzen.
- Qualitäts-Scores lassen sich mit Token-Kosten korrelieren, um teure und günstigere Modelle zu vergleichen.
Was AI Evaluation leistet
Unternehmen, die generative KI vom Pilotprojekt in die Produktion überführen, stehen laut New Relic vor einer Transparenzlücke. Klassisches Monitoring misst Durchsatz und Latenz, übersieht aber semantische Fehler. Teams bleiben damit blind für Halluzinationen, PII-Lecks und unerwartete Modellabweichungen (Model Drift), so das Unternehmen.
AI Evaluation ist als Plattformfunktion in New Relic AI Observability integriert. Sie basiert auf einem asynchronen LLM-as-a-Judge-Dienst, der stichprobenartig ausgewählte Prompt-Payloads und Modellantworten anhand vordefinierter Qualitäts- und Sicherheitsparameter bewertet.
Jede bewertete Interaktion liefert drei Ergebnisse:
- einen normalisierten Score von 0 bis 1
- einen Pass/Fail-Status auf Basis anpassbarer Schwellenwerte
- eine erläuternde Begründung als Textzeichenfolge
Diese Ergebnisse werden an die Plattform zurückgegeben und als Attribute an die ursprünglichen verteilten Traces angehängt. Laut New Relic können Engineers so in einer einzigen Ansicht von einem schlechten Antwort-Score direkt zum betreffenden Prompt-Span, zum Abruf aus der Vektordatenbank oder zum Backend-Dienst springen, der das Problem verursacht.
Integrierte Prüfungen für Sicherheit und RAG-Qualität
AI Evaluation enthält laut New Relic sofort einsatzbereite Evaluatoren, die weder Einrichtung noch Konfiguration erfordern. Die Sicherheits- und Compliance-Prüfungen decken drei Bereiche ab:
- Schutz vor Prompt Injection und Jailbreaks: erkennt feindselige Nutzeranweisungen und Versuche, Sicherheitsschranken zu umgehen.
- Vermeidung von Datenlecks: durchsucht eingehende Payloads und Antworten nach sensiblen Daten und markiert personenbezogene Informationen (PII).
- Prüfung auf Toxizität und Bias: erkennt schädliche, beleidigende oder missbräuchliche Sprache sowie Ungleichbehandlung aufgrund geschützter Merkmale.
Bei Agenten und Systemen mit Retrieval-Augmented Generation (RAG) bewertet der Dienst Abruf und Generierung getrennt, um die fehlerhafte Komponente zu identifizieren. Die Faithfulness, beschrieben als Halluzinations-Tracking, misst, ob Antworten mit dem Retrieval-Kontext sachlich übereinstimmen. Die Antwort- und Kontextrelevanz (Answer und Contextual Relevancy) misst, wie gut die abgerufenen Informationen zur Nutzeranfrage passen und ob die endgültige Antwort den Prompt tatsächlich beantwortet.
Qualität und Kosten verknüpfen, Sampling konfigurierbar
Das Unternehmen positioniert das Tool zudem als Hilfsmittel zur Steuerung der Modellausgaben. Indem Antwort-Scores mit dem Infrastrukturverbrauch und den Token-Kosten verknüpft werden, können Teams prüfen, ob teure Modelle mit vielen Parametern tatsächlich genauere und relevantere Antworten liefern als schnellere, günstigere Alternativen. Laut New Relic können Organisationen so leistungsschwache LLMs austauschen und die Token-Ausgaben senken, ohne die Antwortqualität zu beeinträchtigen.
Um den Aufwand der Bewertung selbst zu begrenzen, können Plattformbetreiber granulare Sampling-Regeln für den Live-Traffic festlegen. New Relic nennt als Beispiel, Toxizitäts- oder Datenleck-Prüfungen nur bei 10 Prozent der Transaktionen statt bei jeder Interaktion auszuführen. Die asynchrone Verarbeitung soll die Betriebskosten im Rahmen halten und dennoch eine kontinuierliche Sicherheitsüberwachung gewährleisten.
Für wen das Produkt gedacht ist
New Relic nennt drei Zielgruppen. AI/ML- und LLMOps-Engineers erhalten Evaluierungs-Scores, die mit Traces verknüpft sind und Log-Tabellen sowie manuelle Prüfungen ersetzen. Sie können damit kontrollieren, ob Änderungen an System-Prompts oder an der RAG-Retrieval-Logik die Relevanz verbessern oder Rückschritte wie Halluzinationen verursachen. Platform Engineers, SREs und DevOps-Verantwortliche können Qualitätsmetriken mit Token-Kosten korrelieren und Sampling-Regeln festlegen, um die Plattformleistung zu schützen.
Das Unternehmen grenzt das Produkt von eigenständigen LLM-Observability-Tools ab, die Evaluierungs-Scores in isolierten Silos ablegen. Sein Argument: Wer die gesamte Transaktion bewertet, einschließlich vorgelagerter Prompts, Abrufen aus Vektordatenbanken und nachgelagerter Rechenleistung, kann probabilistische Qualitäts-Scores mit den Ursachen in der Software verbinden. New Relic behauptet außerdem, dass automatisierte Guardrails manuelle Log-Prüfungen überflüssig machen, die Deployments bremsen, sodass Teams generative KI-Anwendungen schneller ausliefern können. Angaben zu Preisen und Verfügbarkeit enthielt der Quelltext nicht.
