Fiddler ordnet jedem OWASP-LLM-Risiko für 2026 eine Kontrollmaßnahme und einen Test zu

Fiddler AI hat einen Leitfaden zur Ausgabe 2026 der OWASP Top 10 für LLM-Anwendungen veröffentlicht. Er stellt jedem der zehn Risiken eine primäre Kontrollmaßnahme und einen Test gegenüber, der zeigt, ob die Kontrolle greift. Laut Leitfaden bleibt Prompt Injection auf LLM01, Excessive Agency rückt auf LLM03, und Hidden Context Exposure ersetzt System Prompt Leakage.
- Fiddler AI erläutert die OWASP Top 10 für LLM-Anwendungen 2026, die auf der Ressourcenseite des Projekts auf den 3. August 2026 datiert sind.
- Prompt Injection bleibt auf LLM01, Excessive Agency rückt auf LLM03, und Hidden Context Exposure ersetzt System Prompt Leakage.
- Laut Fiddler lassen sich LLM01, LLM02, LLM07, LLM08 und LLM10 auf dem Anfrage- oder Antwortpfad prüfen.
- Jedem der zehn Risiken sind eine primäre Kontrolle und ein Test zugeordnet, der zeigt, ob die Kontrolle greift.
Was die Liste für 2026 abdeckt
Die OWASP Top 10 für LLM-Anwendungen sind ein priorisierter Katalog, den das OWASP GenAI Security Project pflegt. Laut Fiddler führt er die zehn Risiken auf, die die Mitwirkenden des Projekts für LLM-basierte Anwendungen als besonders folgenreich einstufen. Jeder Eintrag trägt einen Code von LLM01:2026 bis LLM10:2026 und enthält eine Beschreibung, Beispiele für Schwachstellen, Angriffsszenarien und Hinweise zur Prävention. Fiddler stützt sich auf die Ausgabe 2026, die auf der Ressourcenseite des Projekts auf den 3. August 2026 datiert ist.
Fiddler versteht die Liste als Checkliste, die eine verantwortliche Person für KI-Risiko und -Sicherheit für jede Produktivanwendung durchgehen kann. Ziel ist es herauszufinden, welche Punkte den Anfragepfad berühren, welche bereits in der Entwurfsphase entschieden werden und welche aus den eingesetzten Modellen und Datensätzen entstehen. Das Unternehmen weist zudem darauf hin, dass die klassischen OWASP Top 10:2025 herkömmlichen Anwendungscode abdecken. Es vergleicht LLM01 Prompt Injection mit A05 Injection sowie LLM04 Supply Chain und LLM05 Data and Model Poisoning mit A03 Software Supply Chain Failures und A08 Software or Data Integrity Failures. Fiddler betont, dass dieser Vergleich nach Kategorienamen erfolgt und keine von OWASP veröffentlichte Zuordnung ist.
Wo jedes Risiko auftritt und wie man sie einordnet
Fiddlers zentrale These lautet, dass sich die zehn Punkte danach unterscheiden, wann und wo sie angegangen werden können. Laut dem Beitrag lassen sich LLM01, LLM02, LLM07, LLM08 und LLM10 auf dem Anfrage- oder Antwortpfad prüfen, also bevor das Modell aufgerufen oder bevor eine Ausgabe ausgeliefert wird. LLM04, LLM05 und LLM09 sind Punkte des Entwurfs oder der Lieferkette. LLM03 und LLM06 erfordern Kontrollen, die in das Design von Agenten und Gateways eingebaut sind.
Die Übersichtstabelle des Beitrags ordnet jedem Punkt einen Einstiegspunkt, eine primäre Kontrolle und einen Test zu. Beispiele:
- LLM03 Excessive Agency: Least Privilege pro Tool, menschliche Freigabe für folgenreiche Aktionen und nachgelagerte Autorisierung. Getestet wird, indem über eingeschleuste Anweisungen Aktionen außerhalb des Zulässigen angefordert werden und geprüft wird, ob sie abgelehnt werden.
- LLM06 Unbounded Consumption: tokenbasierte Kostenobergrenzen und Circuit Breaker auf Agentenebene am Gateway. Getestet wird mit überlangen Eingaben, um zu bestätigen, dass die Grenzen greifen und die Ausgaben zugeordnet werden.
- LLM09 Vector and Embedding Weaknesses: berechtigungsbewusst partitionierte Vektorspeicher. Getestet wird mit mandantenübergreifenden Abrufen und Dokumenten mit verstecktem Text in der Wissensbasis.
Fiddlers Fazit: Jede Kontrolle braucht einen passenden Test, und Teams sollten die Tool-Berechtigungen ihrer Agenten früh überprüfen, da Excessive Agency auf LLM03 vorgerückt ist.
Injection, Ausgabeverarbeitung und Datenrisiken
Fiddler beschreibt LLM01 Prompt Injection als Eingabe, die das Verhalten des Modells auf eine Weise verändert, die der Entwickler nicht beabsichtigt hat. Der Umfang für 2026 umfasse nun auch Anweisungen, die in Bildern oder Audio versteckt sind. Als Beispiel nennt Fiddler den EchoLeak-Vorfall, CVE-2025-32711 in Microsoft 365 Copilot, veröffentlicht am 11. Juni 2025 mit einem CVSS-3.1-Basiswert von 9,3. Laut Quelle hat Microsoft die Lücke behoben, ohne dass Kunden etwas tun mussten, und in öffentlichen Berichten wurde sie als Zero-Click-Angriff über E-Mail-Inhalte beschrieben. Fiddler empfiehlt, Nutzer-Prompts und alle abgerufenen oder von Tools zurückgegebenen Inhalte auf Injection zu bewerten, Exfiltrationslinks vor der Auslieferung zu blockieren und jede Tool-Rückgabe als nicht vertrauenswürdige Daten zu behandeln.
Bei LLM10 Improper Output Handling besteht das Risiko darin, dass die Modellausgabe zu einem Injection-Angriff auf das jeweilige Zielsystem wird: Nicht maskiertes HTML kann zu Cross-Site-Scripting werden, eine nicht parametrisierte generierte Abfrage zu SQL-Injection. Fiddler zufolge können Prüfungen von Anfragen und Antworten unzulässige Inhalte blockieren, doch Maskierung und Validierung an jeder Senke bleiben Aufgabe der Anwendung, weil eine Guardrail nicht wissen kann, welcher Interpreter den Text verarbeitet.
Zu den Datenrisiken veranschaulicht Fiddler LLM02 mit einem Coding-Agenten, der die .env-Datei eines Projekts liest und das Datenbankpasswort in der Completion-Anfrage an den Modellanbieter schickt, wo commitbasierte Secret-Scanner nie hinschauen. Für LLM05 verweist Fiddler auf von OWASP referenzierte Forschung, wonach schon 250 vergiftete Dokumente genügen, um Modelle mit 600 Mio. bis 13 Mrd. Parametern unabhängig von der Datensatzgröße zu kompromittieren. Ein weiterer zitierter Befund, validiert über 18 Modelle und 4 Laufzeitumgebungen, zeigte, dass die faktische Genauigkeit unter einem Trigger von 90 auf 15 Prozent sank.
Der Beitrag merkt außerdem an, dass Hidden Context Exposure Tool-Schemata und abgerufene Richtlinientexte umfasst, und rät, jeden Kontext als auffindbar zu behandeln und Geheimnisse sowie Autorisierungslogik darin nicht abzulegen.
Was das für Sicherheitsteams bedeutet
Für Teams, die LLM-Anwendungen produktiv betreiben, bietet der Leitfaden eine Möglichkeit, eine lange Risikoliste in Arbeiten aufzuteilen, die zur Laufzeit durchgesetzt werden können, und in solche, die bei Entwurf und Beschaffung geklärt werden müssen. Laut Fiddler gehören Kontrollen wie Schwärzung und Injection-Erkennung auf den Anfrage- und Antwortpfad, während signierte Artefakte, Hash-Prüfung und Stücklisten in die Build- und Lieferkettenprozesse gehören. Die Kopplung jeder Kontrolle an einen Test gibt Prüfern ein konkretes Mittel an die Hand, um zu kontrollieren, ob eine Kontrolle tatsächlich wirkt.


