Datadogs AI Guard stoppt unsichere Agentenaktionen zur Laufzeit direkt in der Agentenschleife

Sicherheitskontrollen für KI-Agenten müssen nach Ansicht von Datadog jede Aktion zur Laufzeit prüfen und die Absicht bewerten, statt nur statische Berechtigungen abzugleichen. Die Antwort des Unternehmens heißt AI Guard: Das Tool läuft inline mit den Agenten, blockiert bösartige Aktivitäten und lässt Teams gemeinsam mit den bereits in Datadog vorhandenen Agenten-Traces, Logs und Infrastrukturdaten Untersuchungen durchführen.
- Datadog zufolge muss Agentensicherheit zur Laufzeit die Absicht beurteilen und darf nicht nur statische Berechtigungen prüfen.
- AI Guard läuft inline in der Agentenschleife und kann Prompts, Modellausgaben, Tool-Aufrufe und Tool-Ergebnisse blockieren oder bereinigen, bevor sie ausgeführt werden.
- Funde erscheinen als Signale auf denselben Traces wie Anwendungs- und Agenten-Performance-Daten, mit Aktionen wie dem Blockieren von IPs oder dem Eröffnen von Jira-Cases.
- In einer Umfrage von SecurityHQ und Datadog unter mehr als 200 Sicherheitsverantwortlichen konnten 39 % die Agentenaktionen der vergangenen 30 Tage nur teilweise rekonstruieren.
- Entwickler können laut Datadog die Inline-Bewertung für ihre eigenen Agenten ohne Ticket oder Proxy aktivieren.
Warum Berechtigungen bei Agenten nicht ausreichen
Datadog argumentiert, dass KI-Agenten eine praktisch unbegrenzte Angriffsfläche schaffen. Um nützlich zu sein, brauchen sie Zugriff auf interne Systeme, Entwicklerwerkzeuge und sensible Geschäftsdaten. Zudem verarbeiten sie externe Inhalte über Tools, APIs und MCPs, in denen sich bösartige Anweisungen verstecken können. Als Beispiele dafür, wie indirekte Prompt Injection zu Reputationsschäden und zum Abfluss sensibler Daten führen kann, verweist das Unternehmen auf Vorfälle wie EchoLeak.
Laut Datadog können herkömmliche Sicherheitskontrollen zwar entscheiden, ob ein Agent eine Aktion ausführen darf, nicht aber, ob er sie ausführen sollte. Da Agenten sich ihre nächsten Schritte selbst erschließen, statt einem festen Pfad zu folgen, lassen sich nicht alle möglichen Aktionen vorab testen.
Das Unternehmen nennt ein Beispiel: Ein Agent, der GitHub-Issues sichten soll, liest ein Issue mit versteckten Anweisungen in einem Tool-Aufruf. Darin wird er angewiesen, Deployment-Zugangsdaten zu sammeln und an einen externen Endpunkt zu schicken. Jede einzelne Aktion ist durch die Berechtigungen des Agenten gedeckt, das Verhalten entspricht aber nicht dem Gewollten. Ohne Laufzeitkontrollen, so Datadog, müssten Organisationen einschränken, worauf Agenten zugreifen und was sie tun dürfen, was die Agenten deutlich weniger leistungsfähig macht.
So funktioniert AI Guard
AI Guard läuft inline mit den Agenten. Dadurch hat die Erkennungs- und Bewertungs-Engine an jedem Entscheidungspunkt den vollständigen Laufzeitkontext im Blick. Dazu gehört, welcher Dienst den Agenten aufgerufen hat, wovon er abhängt, auf welche gespeicherten Daten er zugegriffen hat und was der Agent bereits gelesen und getan hat.
Das Produkt beginnt mit der Discovery. Laut Datadog findet es alle Agenten, die in einer Cloud-Umgebung laufen, und zeigt, auf welche Modell-Endpunkte, Datenspeicher und angebundenen Dienste jeder Agent zugreift und welche davon exponiert sind. Während die Agenten laufen, sammelt AI Guard mehrere Kontextebenen:
- Sitzungskontext: der vollständige Gesprächsverlauf, Systemanweisungen, Agentenaufgaben, jeder Tool-Aufruf und der als Nächstes auszuführende Schritt, erfasst mit Datenaufbewahrungskontrollen auf Unternehmensniveau. Das soll indirekte und mehrstufige Angriffe stoppen, bei denen keine einzelne Nachricht bösartig aussieht.
- Benutzerdefinierter Kontext: vom Kunden festgelegte Richtlinien, Regeln zum Blockieren von Tools und geschäftlicher Kontext, mit denen sich die Schutzvorkehrung auf den Anwendungsfall eines bestimmten Agenten abstimmen lässt.
- Anwendungskontext: der Dienst, seine Abhängigkeiten, Datenspeicher, der Verantwortliche und das, womit der Agent in Berührung kam, übertragen über bereits genutzte Traces.
Über Hooks an mehreren Stellen der Agentenschleife kann AI Guard jeden Prompt, jede Modellausgabe, jeden Tool-Aufruf und jedes Tool-Ergebnis blockieren oder bereinigen, bevor sie ausgeführt werden. Ist das Scannen sensibler Daten aktiviert, werden personenbezogene Daten und Secrets in Echtzeit maskiert. Harmlose Zwischenschritte laufen weiter, solange sie der Absicht der Organisation für diesen Agenten entsprechen. Weicht die Absicht ab, unterbricht AI Guard die Verhaltenskette sofort. Im GitHub-Beispiel kann AI Guard laut Datadog den Schritt nach dem bösartigen Tool-Aufruf blockieren, bevor der Agent darauf reagiert.
Untersuchung und Gegenmaßnahmen an einem Ort
Datadog verweist auf eine Umfrage von SecurityHQ und Datadog unter mehr als 200 Cybersicherheitsverantwortlichen, in der 39 % angaben, ihre Organisation könne jede Aktion eines KI-Agenten aus den vorangegangenen 30 Tagen nur teilweise rekonstruieren. AI Guard stellt die wichtigsten Funde als Signale dar. Laut dem Unternehmen rekonstruieren die Signale die gesamte Sitzung hinter einer blockierten Aktion, fassen zusammen, was passiert ist und wie, und korrelieren alle Agenteninteraktionen für tiefergehende Untersuchungen.
Da die Signale auf denselben Traces landen wie die Performance-Daten von Anwendungen und Agenten, können Teams den gesamten Stack betrachten, darunter kompromittierte Hosts, Container, die unerwarteten Code ausführen, oder Abfragen gegen eine Datenbank, auf die der Agent nicht hätte zugreifen dürfen. Von einem ausgelösten Signal aus können Teams verdächtige Nutzer oder IPs blockieren, Security Cases eröffnen oder Remediation-Workflows anstoßen. Cases lassen sich außerdem an Jira oder ein SIEM weiterleiten.
Ausgerichtet auf die Entwickler, die Agenten verantworten
Datadog zufolge liegen Agenten in der Verantwortung der Entwickler, die sie bauen, weshalb Kontrollen außerhalb des Entwicklungsworkflows oft nicht angenommen werden. AI Guard sitzt in den Tracing- und Monitoring-Systemen der Anwendungsteams. Laut dem Unternehmen kann ein Entwickler die Inline-Bewertung für seinen eigenen Agenten aktivieren, ohne ein Ticket zu erstellen oder einen Proxy aufzusetzen, während ein Security-Team die Richtlinie festlegt, die diese Bewertungen durchsetzen, ohne die Interna jedes einzelnen Agenten kennen zu müssen.
In derselben Umfrage nannten 40 % der Befragten als größte Sorge, dass ein KI-Agent eine Entscheidung trifft, ohne dass es jemand merkt. Datadog positioniert AI Guard als Brücke zwischen Security Engineering und Entwicklung, indem Transparenz und Durchsetzung Teil der Werkzeuge werden, die Entwickler ohnehin nutzen.


