Künstliche Intelligenz, aktuell.
Direkt aus den Originalmeldungen.

Julius Graf wird Berkeley Cal Cybersecurity Research Fellow 2026-27

19. November 2026, 00:45Von der KI Nachrichten RedaktionQuelle: Berkeley CLTC
Julius Graf wird Berkeley Cal Cybersecurity Research Fellow 2026-27
Bild: Berkeley CLTC

UC Berkeley hat Julius Graf zum Cal Cybersecurity Research Fellow 2026-27 ernannt. Damit wird seine Forschung zu Sicherheitsbedrohungen durch generative KI und autonome Agentensysteme unterstützt. In seinem Projekt untersucht Graf, wie sich eine einzelne Prompt-Injection über miteinander verbundene KI-Agenten ausbreiten kann, und entwickelt Methoden, um solche Angriffe einzudämmen.

Das Wichtigste in Kürze
  • Julius Graf ist Cal Cybersecurity Research Fellow 2026-27 der UC Berkeley.
  • Das Stipendium konzentriert sich auf Cybersicherheitsbedrohungen durch generative KI und agentische Systeme.
  • Graf untersucht kaskadierende Angriffe, die durch Prompt-Injections über mehrere KI-Agenten ausgelöst werden.
  • Das Projekt schlägt mathematische Modelle und eine „kognitive Firewall“ zur Eindämmung vor.

Forschungsstipendium legt Schwerpunkt auf KI-Sicherheit

Das Stipendium wird vom Berkeley Center for Long-Term Cybersecurity, kurz CLTC, mit Unterstützung des Cal-Absolventen und externen CLTC-Beraters Tim M. Mather, Jahrgang ’81, vergeben. Das CLTC vergibt das Cal Cybersecurity Research Fellowship seit 2019.

Das Stipendium 2026-27 ist der Forschung an der Schnittstelle von Cybersicherheit und künstlicher Intelligenz gewidmet. Im Mittelpunkt stehen neu entstehende Bedrohungen durch generative KI und agentische Systeme sowie für diese Systeme. Sie können Ausgaben anderer Systeme lesen, analysieren und auf dieser Grundlage handeln.

Grafs Arbeit umfasst Cyberrisiken und KI-Sicherheit

Graf ist Doktorand im zweiten Jahr im Fach Industrial Engineering and Operations Research an der UC Berkeley. Betreut wird er von Professor Thibaut Mastrolia. In seiner Forschung wendet er stochastische Kontrolle, Hawkes-Prozesse und Reinforcement Learning auf Market Making, Cyberrisiken und KI-Sicherheit an.

Er hat einen M.Eng. in Industrial Engineering and Operations Research von der UC Berkeley sowie ein Diplôme d’Ingénieur der CentraleSupélec. Graf ist außerdem Graduate Student Instructor für INDENG 241, Risk Modeling, Simulation, and Data Analysis, sowie Mitgründer und CTO von EquitX, einer intent-basierten Marktinfrastruktur für Eintrittskarten zu Live-Veranstaltungen.

Mastrolia ist seit Juli 2021 Assistant Professor für Industrial Engineering and Operations Research an der UC Berkeley. Zu seinen Forschungsgebieten gehören stochastische Analyse und Kontrolle, Vertragstheorie und Mean-Field-Spiele, Financial Engineering, Cyberrisikomanagement und KI-Sicherheit.

Projekt untersucht kaskadierende Angriffe zwischen KI-Agenten

Grafs Forschungsabstract beschreibt ein Sicherheitsproblem, das entsteht, wenn autonome Systeme die Ausgaben anderer Agenten als vertrauenswürdige Anweisungen behandeln. Eine erfolgreiche Prompt-Injection könnte einen kompromittierten Agenten dazu bringen, schädliche E-Mails zu erzeugen, gemeinsam genutzte Dokumente zu verändern, Speichereinträge zu vergiften oder gefälschte Nachrichten zu versenden. Die dadurch übertragene Autorität und abgegriffenen Zugangsdaten könnten spätere Angriffe beschleunigen und erleichtern.

Gemeinsam mit Mastrolia, dem Center for AI Risk Management & Alignment und Stoa will Graf diese Sicherheitsverletzungen als sich selbst verstärkende Kettenreaktionen mit einem verstärkten Hawkes-Prozess modellieren. Das Modell soll operative Schwellenwerte ermitteln, bei denen Angriffskaskaden lokal begrenzt bleiben, aktives Eingreifen erfordern oder zum Ausfall des Netzwerks führen.

Das Projekt sieht außerdem eine „kognitive Firewall“ mit automatisierten Bedrohungsalarmen, Reparaturprotokollen in Echtzeit und Mechanismen zum Unterbrechen von Angriffsketten vor. Grafs Team wird das Modell und die Firewall auf einem Multi-Agenten-Testbett mit realistischen und adaptiven Angriffsszenarien kalibrieren und Belastungstests unterziehen. Nach Angaben des CLTC soll die Arbeit quantitative Maßstäbe dafür liefern, wie schnell Betreiber von KI-Systemen Sicherheitsverletzungen in miteinander verbundenen Systemen erkennen, beheben und stoppen müssen.

Berkeley CLTCJulius GrafUC BerkeleyThibaut MastroliaCenter for AI Risk Management & AlignmentStoaKI-AgentenKI-SicherheitCybersicherheit

Ähnliche Meldungen

Fünf Sicherheitserkenntnisse für KI-Agenten von All Day AI 2026
Sicherheit und Ethik19. November 2026, 20:52

Fünf Sicherheitserkenntnisse für KI-Agenten von All Day AI 2026

Sicherheitsexperten auf der All Day AI Conference 2026 forderten strikte Grenzen für KI-Agenten, deren Einhaltung außerhalb der Modelle kontrolliert werden soll. Ihre…

Berkeley-CLTC-Bericht warnt: KI verkürzt Reaktionszeiten bei Cyberkriminalität
Sicherheit und Ethik19. November 2026, 18:15

Berkeley-CLTC-Bericht warnt: KI verkürzt Reaktionszeiten bei Cyberkriminalität

Ein neues Whitepaper des Berkeley Center for Long-Term Cybersecurity kommt zu dem Schluss, dass künstliche Intelligenz bekannte Methoden der Cyberkriminalität schneller…

KI-Cyberkriminalität macht Vertrauen und Verifizierung zu zentralen Angriffsflächen
Wirtschaft19. November 2026, 17:16

KI-Cyberkriminalität macht Vertrauen und Verifizierung zu zentralen Angriffsflächen

Ein neues Whitepaper des Berkeley CLTC kommt zu dem Ergebnis, dass künstliche Intelligenz Phishing, Ransomware, Betrug und Identitätsbetrug schneller und überzeugender…