Julius Graf wird Berkeley Cal Cybersecurity Research Fellow 2026-27

UC Berkeley hat Julius Graf zum Cal Cybersecurity Research Fellow 2026-27 ernannt. Damit wird seine Forschung zu Sicherheitsbedrohungen durch generative KI und autonome Agentensysteme unterstützt. In seinem Projekt untersucht Graf, wie sich eine einzelne Prompt-Injection über miteinander verbundene KI-Agenten ausbreiten kann, und entwickelt Methoden, um solche Angriffe einzudämmen.
- Julius Graf ist Cal Cybersecurity Research Fellow 2026-27 der UC Berkeley.
- Das Stipendium konzentriert sich auf Cybersicherheitsbedrohungen durch generative KI und agentische Systeme.
- Graf untersucht kaskadierende Angriffe, die durch Prompt-Injections über mehrere KI-Agenten ausgelöst werden.
- Das Projekt schlägt mathematische Modelle und eine „kognitive Firewall“ zur Eindämmung vor.
Forschungsstipendium legt Schwerpunkt auf KI-Sicherheit
Das Stipendium wird vom Berkeley Center for Long-Term Cybersecurity, kurz CLTC, mit Unterstützung des Cal-Absolventen und externen CLTC-Beraters Tim M. Mather, Jahrgang ’81, vergeben. Das CLTC vergibt das Cal Cybersecurity Research Fellowship seit 2019.
Das Stipendium 2026-27 ist der Forschung an der Schnittstelle von Cybersicherheit und künstlicher Intelligenz gewidmet. Im Mittelpunkt stehen neu entstehende Bedrohungen durch generative KI und agentische Systeme sowie für diese Systeme. Sie können Ausgaben anderer Systeme lesen, analysieren und auf dieser Grundlage handeln.
Grafs Arbeit umfasst Cyberrisiken und KI-Sicherheit
Graf ist Doktorand im zweiten Jahr im Fach Industrial Engineering and Operations Research an der UC Berkeley. Betreut wird er von Professor Thibaut Mastrolia. In seiner Forschung wendet er stochastische Kontrolle, Hawkes-Prozesse und Reinforcement Learning auf Market Making, Cyberrisiken und KI-Sicherheit an.
Er hat einen M.Eng. in Industrial Engineering and Operations Research von der UC Berkeley sowie ein Diplôme d’Ingénieur der CentraleSupélec. Graf ist außerdem Graduate Student Instructor für INDENG 241, Risk Modeling, Simulation, and Data Analysis, sowie Mitgründer und CTO von EquitX, einer intent-basierten Marktinfrastruktur für Eintrittskarten zu Live-Veranstaltungen.
Mastrolia ist seit Juli 2021 Assistant Professor für Industrial Engineering and Operations Research an der UC Berkeley. Zu seinen Forschungsgebieten gehören stochastische Analyse und Kontrolle, Vertragstheorie und Mean-Field-Spiele, Financial Engineering, Cyberrisikomanagement und KI-Sicherheit.
Projekt untersucht kaskadierende Angriffe zwischen KI-Agenten
Grafs Forschungsabstract beschreibt ein Sicherheitsproblem, das entsteht, wenn autonome Systeme die Ausgaben anderer Agenten als vertrauenswürdige Anweisungen behandeln. Eine erfolgreiche Prompt-Injection könnte einen kompromittierten Agenten dazu bringen, schädliche E-Mails zu erzeugen, gemeinsam genutzte Dokumente zu verändern, Speichereinträge zu vergiften oder gefälschte Nachrichten zu versenden. Die dadurch übertragene Autorität und abgegriffenen Zugangsdaten könnten spätere Angriffe beschleunigen und erleichtern.
Gemeinsam mit Mastrolia, dem Center for AI Risk Management & Alignment und Stoa will Graf diese Sicherheitsverletzungen als sich selbst verstärkende Kettenreaktionen mit einem verstärkten Hawkes-Prozess modellieren. Das Modell soll operative Schwellenwerte ermitteln, bei denen Angriffskaskaden lokal begrenzt bleiben, aktives Eingreifen erfordern oder zum Ausfall des Netzwerks führen.
Das Projekt sieht außerdem eine „kognitive Firewall“ mit automatisierten Bedrohungsalarmen, Reparaturprotokollen in Echtzeit und Mechanismen zum Unterbrechen von Angriffsketten vor. Grafs Team wird das Modell und die Firewall auf einem Multi-Agenten-Testbett mit realistischen und adaptiven Angriffsszenarien kalibrieren und Belastungstests unterziehen. Nach Angaben des CLTC soll die Arbeit quantitative Maßstäbe dafür liefern, wie schnell Betreiber von KI-Systemen Sicherheitsverletzungen in miteinander verbundenen Systemen erkennen, beheben und stoppen müssen.
Berkeley CLTC: Announcing the 2026-2027 Cal Cybersecurity Research Fellow, Julius Graf


