Künstliche Intelligenz, aktuell.
Direkt aus den Originalmeldungen.

FPF startet vierteilige Reihe zu Datenschutzrisiken durch KI-Agenten

12. November 2026, 21:02Von der KI Nachrichten RedaktionQuelle: Future of Privacy Forum
FPF startet vierteilige Reihe zu Datenschutzrisiken durch KI-Agenten
Bild: Future of Privacy Forum

Das Center for Artificial Intelligence des Future of Privacy Forum hat eine vierteilige virtuelle Roundtable-Reihe zu Datenschutzrisiken durch KI-Agenten gestartet. Die erste Sitzung befasste sich mit Datenflüssen, Datenminimierung, datenschutzfördernden Technologien und Herausforderungen beim Einsatz in Unternehmen.

Das Wichtigste in Kürze
  • FPF startete am 19. Oktober 2026 eine vierteilige virtuelle Roundtable-Reihe.
  • Die erste Sitzung befasste sich mit Datenschutzschäden durch KI-Agenten, Datenminimierung und PETs.
  • Eine öffentliche Taxonomie in Version 0.1 listet 24 Datenschutzrisiken durch KI-Agenten in fünf Bereichen auf.
  • Die Sprecher hoben die Grenzen statischer Berechtigungen, Einwilligungs- und Löschprozesse hervor.
  • Der nächste Roundtable ist für den 15. Dezember angesetzt.

Ein Rahmen für Datenschutzschäden durch KI-Agenten

Der erste Roundtable mit dem Titel Agentic Data Flows: Privacy, Data Minimization, and PETs in Agentic Deployment fand am 19. Oktober 2026 statt. Daran nahmen Experten von Working Paper, Google und J.P. Morgan AI Research teil. Stacey Gray, Senior Director for Artificial Intelligence beim FPF, eröffnete die Diskussion.

Bennett Hillenbrand, Mitgründer und Präsident von Working Paper sowie Adjunct Professor an der McCourt School of Public Policy der Georgetown University, schlug eine praktische Definition für einen Agenten vor: ein großes Sprachmodell, das Tools aufrufen kann. Anhand eines Beispiels mit mehreren Agenten beim Einkauf argumentierte er, dass Agenten bestehende Datenschutzrisiken eher verändern, als völlig neue zu schaffen. Zudem sagte er, dass vor dem Aufkommen von Agenten vergleichsweise wenige KI-Entwickler fortgeschrittene datenschutzfördernde Technologien eingesetzt hätten.

Andrew Gruen, Principal Consultant bei Working Paper und Senior Fellow des FPF, stellte eine Taxonomie mit 24 Datenschutzrisiken durch KI-Agenten in fünf Bereichen vor. Das für öffentliches Feedback veröffentlichte Framework in Version 0.1 deckt Themen von der Datenerfassung und -aggregation bis zu früher erteilten Einwilligungen und Verantwortlichkeit ab. Nach Angaben des FPF soll die Taxonomie Benchmarks unterstützen, mit denen KI-Systeme vor ihrer Einführung auf diese Risiken geprüft werden.

Warum herkömmliche Berechtigungen möglicherweise nicht ausreichen

Jaspreet Bhatia, Staff Privacy Engineer bei Google, erläuterte die Grenzen statischer Ja-nein-Berechtigungen für autonome, probabilistische Agenten. Zu den besprochenen Herausforderungen gehörten Einwilligungsmüdigkeit, das Fehlen standardisierter Protokolle, mit denen Agenten Datenschutzbedingungen untereinander aushandeln können, sowie Löschanfragen, die Agenten möglicherweise nicht erreichen, wenn diese die Daten eines Nutzers bereits erhalten haben.

Antigoni Polychroniadou, Executive Director bei J.P. Morgan AI Research und am AlgoCRYPT Center of Excellence, beschrieb Unternehmensrisiken entlang des gesamten Anwendungslebenszyklus. Dazu zählten die Identität des Agenten, menschliche Freigaben, die Integrität der Ausführung und Haftungsfragen. Sie schlug unter anderem vor, Agenten kryptografisch an die Nutzer zu binden, die sie autorisieren, Absichten maschinenlesbar zu machen, eine deterministische Durchsetzung zu gewährleisten und Zero-Knowledge-Proofs einzusetzen. An erster Stelle müsse jedoch die Datenminimierung stehen.

Ein zentrales Thema war, dass Schutzmaßnahmen für herkömmliche Software, darunter einmalige Berechtigungen, eine im Voraus eingeholte Einwilligung und Anweisungen in Freitext, möglicherweise nicht ohne Weiteres auf Agenten übertragbar sind. Da ein Agent Informationen Schritt für Schritt weitergeben, ableiten, speichern oder weiterleiten kann, oft außerhalb des Blickfelds des Nutzers, müssen Kontrollen auf jede einzelne Aktion angewendet werden. Ein Präsentator fasste das Problem mit den Worten zusammen: „Ein Login reicht nicht aus.“

Weitere Roundtables sollen offene Fragen klären

Die Reihe ist Teil des Privacy-Enhancing Technologies Research Coordination Network des FPF. Es wird von der National Science Foundation und dem Department of Energy finanziert und in Zusammenarbeit mit Working Paper veranstaltet. Das Netzwerk wird von der U.S. National Science Foundation unter Award #2413978 und vom Department of Energy unter Award #DE-SC0024884 unterstützt.

In künftigen Sitzungen soll untersucht werden, wie Agenten Datenschutzbedingungen untereinander aushandeln sollten, wie Löschung und der Widerruf einer Einwilligung nachgelagerte Agenten erreichen können, wie sich überprüfen lässt, ob eine Person eine Aktion genehmigt hat, wer für Fehler eines Agenten verantwortlich ist und wie datenschutzfördernde Technologien wirksam integriert werden können. Nach Angaben des FPF ist der nächste Roundtable für den 15. Dezember angesetzt.

Für Nutzer und Organisationen deutet die Diskussion auf einen Wandel hin: Datenschutz wird nicht mehr als einmalige Entscheidung über eine Berechtigung verstanden, sondern als Kontrolle, die den Aktionen eines Agenten während seines gesamten Betriebs folgt. Die Reihe beantwortet diese Fragen nicht abschließend, legt aber eine Taxonomie vor und benennt Umsetzungsprobleme, die Unternehmen vor dem Einsatz agentischer Systeme lösen müssen.

Future of Privacy ForumFPF Center for Artificial IntelligenceWorking PaperGoogleJ.P. Morgan AI ResearchNational Science FoundationKI-AgentenDatenschutzForschungsergebnisse

Ähnliche Meldungen

Google findet mit Gemini und Z3 Go-Fehler, die Fuzzing übersah
Für Entwickler12. November 2026

Google findet mit Gemini und Z3 Go-Fehler, die Fuzzing übersah

Ein Google-Entwickler hat mit Gemini 4 Argon und dem Constraint-Solver Z3 Laufzeitabstürze gefunden, die Go-Fuzzing nicht aufspüren konnte. Der Workflow entdeckte drei…

Google veröffentlicht Ergebnisse des Benchmarks für Agent Anomaly Detection
Sicherheit und Ethik12. November 2026

Google veröffentlicht Ergebnisse des Benchmarks für Agent Anomaly Detection

Google zufolge erkannte die Funktion Agent Anomaly Detection 87 % der schädlichen Anweisungen, die KI-Agenten in Tests mit fünf öffentlichen, nicht von Google erstellten…

USC-Forschende entwickeln EVAC-AI für bessere Evakuierungen bei Waldbränden in Los Angeles
Forschung11. November 2026, 23:05

USC-Forschende entwickeln EVAC-AI für bessere Evakuierungen bei Waldbränden in Los Angeles

USC-Forschende entwickeln ein agentisches KI-Framework, das Los Angeles bei der Koordinierung von Evakuierungen bei Waldbränden in Echtzeit helfen soll. Das vierjährige…