SEI benennt sieben Forschungsprioritäten für die Cybersicherheit, da KI Angriff und Verteidigung verändert

KI verändert die Bedrohungslage

In einem Blogbeitrag vom 20. Oktober 2026 beschreiben die SEI-Autoren Bill Scherlis und Greg Touhill eine Veränderung im vergangenen Jahr. Ihnen zufolge haben Angreifer begonnen, KI für eine breite Palette von Angriffen einzusetzen, um ihre Techniken zu beschleunigen, zu optimieren und zu skalieren. Agentische KI senke den Aufwand für versierte Angreifer und die Einstiegshürde für Neulinge, schreiben sie.

Nach Angaben der Autoren nehmen Ausmaß, Tempo und Raffinesse der Angriffe bereits zu, und es seien unterschiedlichste Branchen betroffen. Sie verweisen auf die Salt-Typhoon-Angriffe auf mehrere bedeutende Telekommunikationsanbieter und, in jüngerer Zeit, auf dem Iran zugeschriebene Angriffe auf Wassersysteme.

Dieselbe Technologie helfe laut dem Beitrag auch den Verteidigern. Große Sprachmodelle (LLMs) seien inzwischen sehr leistungsfähig darin, Schwachstellen schnell zu finden und mögliche Korrekturen zu entwickeln. Im operativen Betrieb könne KI eine wirksamere und schnellere Triage in Security Operations Centers unterstützen.

Der Rahmen und seine sieben Felder

Den Bericht leiteten William Scherlis, Sonderberater des SEI-Direktors, und Greg Touhill, Direktor der CERT Division des SEI. Er stellt 37 Chancen mit höchster Priorität vor, die nach Darstellung der Autoren großes Potenzial für die Cybersicherheit der nationalen Sicherheit bergen. Die sieben Felder lauten:

• Analytic and Operational Tradecraft for Cybersecurity
• Securing AI-Based Systems and Workflows
• Cyber-Physical System Security
• Cybersecurity for Complex Integrated Systems
• Insider Threat and Human, Systems Interaction
• Secure Engineering and Mission Confidence
• Modeling and Simulation in Support of Security

Das Team erhebt nach eigenen Angaben keinen Anspruch auf Vollständigkeit. Stattdessen wählte es Themen anhand expliziter Kriterien aus und suchte nach der größten potenziellen Wirkung auf Cyberoperationen und geplante Cyberfähigkeiten im Department of War, in der Intelligence Community, im Department of Homeland Security und in anderen Bundesbehörden. Die Themen konzentrieren sich auf technische Herausforderungen, die für die nationale Sicherheit und zivile Infrastruktur bedeutsam sind, bei denen Fortschritte den größten Unterschied machen dürften und bei denen CERT und das SEI Kooperationen aufbauen und sowohl unmittelbare als auch langfristige Vorteile erzielen können.

Tradecraft: mit den Angreifern Schritt halten

Das erste Feld umfasst operativ ausgerichtete Arbeiten, die computergestützte und menschliche Elemente verbinden, damit Systeme unter akuter Bedrohung sicher weiterlaufen. Taktiken, Techniken und Verfahren müssten sich laufend zusammen mit den Methoden der Angreifer und mit Entwicklungen wie KI-basierten Systemkomponenten, stark verteilten Architekturen und moderner heterogener Hardware weiterentwickeln, so die Autoren.

Als drängend nennen sie die Ereignisanalyse für vernetzte und verteilte Systeme, die Datenspeicherung, die Analyse der Taktiken, Techniken und Verfahren von Angreifern, das Reverse Engineering von Schadsoftware und den sicheren Betrieb sehr großer Systeme. Zur Datenspeicherung heißt es im Beitrag, die Instrumentierung erzeuge meist sehr viele hochgranulare Daten, die Organisationen oft nicht vollständig vorhalten könnten. Zu den aufgeführten Forschungschancen zählen effiziente und verlässliche Analyse und Reaktion, Red-Team-Operationen, das Aufspüren und Diagnostizieren von Schwachstellen, die schnelle Erstellung und Validierung von Software sowie Cyberhygiene für KI-basierte Systeme.

KI-Systeme selbst absichern

Das zweite Feld widmet sich der Sicherheit von KI. Die Autoren weisen darauf hin, dass moderne KI auf neuronalen Netzen mit Milliarden oder sogar Billionen Parametern beruht. Die Analyse dieser Parameter habe im kleineren Maßstab teilweise Erfolge gezeigt, reiche aber nicht aus, um Ergebnisse im LLM-Maßstab grundsätzlich zu verstehen. Es sei in der Regel nicht möglich, verlässliche Aussagen darüber zu treffen, dass sehr große Modelle sich in bestimmter Weise verhalten.

Deshalb sei ein universelles Cybersicherheitsraster für KI-basierte Systeme derzeit nicht umsetzbar. Sie schlagen vor, Sicherheitsziele auf die vorgesehenen Anwendungsfälle auszurichten und Entwicklern Orientierung zu geben, wann und wie KI eingesetzt und wie die Eignung eines Systems bewertet werden sollte. Bei agentischer KI müsse nach Ansicht der Autoren der Blick auf die Harnesses und Plug-in-Systeme fallen, die ein LLM mit externen Werkzeugen und Netzwerken verbinden, da sie neue Angriffsflächen eröffnen und prinzipienfestes Engineering sowie unveränderliche Protokollierung erfordern.

Was das bedeutet

Der Rahmen richtet sich an Verantwortliche in Cyberforschung, Betrieb und Aufgaben der nationalen Sicherheit, die ihre Anstrengungen nach Ansicht der Autoren dort bündeln müssen, wo sie die Cybersicherheit des Landes rasch stärken können. Der vollständige Bericht ist online verfügbar und enthält Verweise auf die Fachliteratur. Der vorliegende Auszug behandelt nur die ersten beiden Felder im Detail; Einzelheiten zu den übrigen fünf bleiben dem Bericht selbst vorbehalten.