Künstliche Intelligenz, aktuell.
Direkt aus den Originalmeldungen.

KI-Cyberkriminalität macht Vertrauen und Verifizierung zu zentralen Angriffsflächen

19. November 2026, 17:16Von der KI Nachrichten RedaktionQuelle: Berkeley CLTC
KI-Cyberkriminalität macht Vertrauen und Verifizierung zu zentralen Angriffsflächen
Bild: Berkeley CLTC

Ein neues Whitepaper des Berkeley CLTC kommt zu dem Ergebnis, dass künstliche Intelligenz Phishing, Ransomware, Betrug und Identitätsbetrug schneller und überzeugender macht. Die zentrale Warnung: Kürzere Zeitfenster für die Verifizierung rücken Vertrauen, Autorität und Koordination ins Zentrum von Cyberangriffen.

Das Wichtigste in Kürze
  • Ein Whitepaper des CLTC untersucht die Auswirkungen von KI auf die Cyberkriminalität.
  • An der Übung in Berkeley nahmen 22 Personen aus Cybersicherheit, Strafverfolgung, Wirtschaft, Wissenschaft und Zivilgesellschaft teil.
  • KI kann die Menge und Glaubwürdigkeit von Phishing, Identitätsbetrug und Betrug erhöhen.
  • Der Bericht empfiehlt bessere Verifizierung, Überwachung, Schulungen und gemeinsame Übungen.
  • Regierungen sollen Meldepflichten, Rechtsrahmen und Zusammenarbeit verbessern.

Planspiel testete KI-gestützte Angriffskampagnen

Der Bericht When Trust Becomes an Attack Surface: What a Tabletop Exercise Reveals about AI-Enabled Cybercrime wurde von Gil Baram verfasst, einem Non-Resident Research Fellow am CLTC und Visiting Associate Professor am Bellini College for Artificial Intelligence, Cybersecurity and Computing der University of South Florida.

Die Ergebnisse basieren hauptsächlich auf einem panel- und szenariobasierten Planspiel, das im Dezember 2024 an der UC Berkeley stattfand. Die Übung untersuchte, wie KI die Anreize für Angreifer verändert, die Reaktionen von Organisationen beeinflusst und Herausforderungen für die Governance schafft.

Eine Gruppe aus 22 Cybersicherheitspraktikern, Strafverfolgungsbeamten, Führungskräften aus der Wirtschaft sowie Vertretern aus Wissenschaft und Zivilgesellschaft übernahm die Rollen zweier krimineller Organisationen, einer staatlich unterstützten und einer unabhängigen. Sie entwickelten KI-gestützte Angriffskampagnen, wechselten anschließend in die Rollen von Verteidigern und reagierten auf die Folgen. Dazu gehörte auch die Kompromittierung eines Anbieters von Managed Security Services, die sich kaskadenartig auf die Netzwerke seiner Kunden ausweitete.

Die Übung in Berkeley war Teil von Workshops, die gemeinsam mit dem Berkeley Risk and Security Lab und Fortinet durchgeführt wurden. Weitere Workshops fanden in Singapur und Tel Aviv, Israel, statt.

KI vergrößert Reichweite und Geschwindigkeit von Täuschungen

Dem Bericht zufolge verstärkt KI etablierte Betrugs- und Identitätsbetrugsmethoden. Stimmenklone, Deepfake-Videos und lokalisierte Phishing-Köder lassen sich inzwischen mit wenig Fachwissen und Geld erstellen. Einzelne Akteure können Tausende maßgeschneiderte Köder erzeugen. Wiederholungen erhöhen dadurch die Erfolgswahrscheinlichkeit, während sie zugleich die menschliche Prüfung und herkömmliche Filter überlasten.

Der Bericht beschreibt außerdem die Kommerzialisierung von Angriffsmöglichkeiten. Gemietete KI-Werkzeuge können Personen, die bereits an anderen illegalen Aktivitäten beteiligt sind, den Einstieg in die Cyberkriminalität mit begrenztem finanziellen Aufwand, geringem Fachwissen und überschaubarem Risiko ermöglichen.

KI schafft auch innerhalb von Organisationen zusätzliche Risiken. Synthetische Lebensläufe und Deepfake-Vorstellungsgespräche in Echtzeit können einem Betrüger helfen, eingestellt zu werden, insbesondere wenn Recruiting und Onboarding aus der Ferne stattfinden. Auch die Zuordnung von Angriffen wird schwieriger, weil flüssig formulierter, von KI verfasster Text sprachliche Hinweise beseitigt, während synthetische Medien sowohl Opfer als auch Ermittler in die Irre führen können.

„KI hat vertraute Formen der Täuschung schneller, günstiger und überzeugender gemacht“, schreibt Baram in dem Bericht. Führungskräfte, Dienstleister und Incident-Response-Teams müssten möglicherweise feststellen, ob eine Anfrage, eine Stimme oder eine Warnmeldung echt ist, bevor sie Zeit für eine Überprüfung haben.

Bericht fordert bessere Verifizierung und Koordination

Für Organisationen empfiehlt das Papier KI-basierte Erkennungs- und Systeme zur kontinuierlichen Überwachung, eine stärkere Identitätsprüfung und Multi-Faktor-Authentifizierung. Sensible Anfragen sollten über einen separaten, zuvor festgelegten Kanal bestätigt werden, etwa durch einen Anruf bei einer bekannten Rufnummer.

Außerdem fordert der Bericht kontinuierliche Schulungen der Belegschaft, gemeinsame Übungen und Initiativen zum Informationsaustausch. Diese Maßnahmen sollen Beschäftigten helfen, KI-gestützte Bedrohungen zu erkennen und zu eskalieren, und die Wahrscheinlichkeit verringern, dass eine manipulierte Interaktion erheblichen Schaden verursacht.

Für Regierungen und Aufsichtsbehörden empfiehlt der Bericht eine verpflichtende Meldung von Vorfällen und den Austausch von Informationen, mehr Kapazitäten für Strafverfolgungsbehörden zur Untersuchung KI-vermittelten Betrugs sowie Rechtsrahmen, die Deepfakes und andere Formen des KI-Missbrauchs ausdrücklich berücksichtigen. Zudem fordert er eine stärkere internationale Zusammenarbeit und Kooperation zwischen öffentlichem und privatem Sektor gegen grenzüberschreitende Bedrohungen.

Der Bericht kommt zu dem Schluss, dass KI-gestützte Cyberkriminalität Entscheidungsfristen verkürzt und die Wirksamkeit von Täuschungen erhöht. Damit stellt sie traditionelle, auf den Menschen ausgerichtete Schutzmaßnahmen infrage. Die Empfehlungen weisen Organisationen und politische Entscheidungsträger auf Governance-, Verifizierungs- und Koordinationsmaßnahmen hin, die reagieren sollen, bevor schnell verlaufende Angriffe Lücken im Vertrauen ausnutzen.

Ähnliche Meldungen

Berkeley-CLTC-Bericht warnt: KI verkürzt Reaktionszeiten bei Cyberkriminalität
Sicherheit und Ethik19. November 2026, 18:15

Berkeley-CLTC-Bericht warnt: KI verkürzt Reaktionszeiten bei Cyberkriminalität

Ein neues Whitepaper des Berkeley Center for Long-Term Cybersecurity kommt zu dem Schluss, dass künstliche Intelligenz bekannte Methoden der Cyberkriminalität schneller…

Julius Graf wird Berkeley Cal Cybersecurity Research Fellow 2026-27
Sicherheit und Ethik19. November 2026, 00:45

Julius Graf wird Berkeley Cal Cybersecurity Research Fellow 2026-27

UC Berkeley hat Julius Graf zum Cal Cybersecurity Research Fellow 2026-27 ernannt. Damit wird seine Forschung zu Sicherheitsbedrohungen durch generative KI und autonome…

Cyber-Planspiele in Berkeley: Teams tun sich schwer zu klären, wer handelt, wenn KI Angriffe beschleunigt
Forschung20. Oktober 2026, 19:42

Cyber-Planspiele in Berkeley: Teams tun sich schwer zu klären, wer handelt, wenn KI Angriffe beschleunigt

Drei Planspiele von Forschenden der UC Berkeley haben ergeben: Fachleute wissen in der Regel, was eine wirksame Reaktion auf einen KI-gestützten Cyberangriff umfasst…