Künstliche Intelligenz, aktuell.
Direkt aus den Originalmeldungen.

Resemble AI verfolgt KI-geklonte CEOs, Kriegsfälschungen und Voice-Swatting

12. November 2026Von der KI Nachrichten RedaktionQuelle: Resemble AI
Resemble AI verfolgt KI-geklonte CEOs, Kriegsfälschungen und Voice-Swatting
Bild: Resemble AI

Die aktuelle Deepfake-Watchlist von Resemble AI dokumentiert eine Woche mit Fällen von KI-geklonten Führungskräften, manipulierten Kriegsvideos, Klagen wegen generierter Musik, synthetischen Darstellungen sexuellen Kindesmissbrauchs und KI-gestütztem Swatting. Die Vorfälle zeigen, wie synthetische Medien bei Finanzbetrug, militärischer Desinformation, Gefahren für die öffentliche Sicherheit und Missbrauch eingesetzt werden.

Das Wichtigste in Kürze
  • Die Staatsanwaltschaft wirft einer Gruppe vor, KI-geklonte CEOs und falsche Anwälte bei einem Betrug von mehr als 129 Millionen Dollar eingesetzt zu haben.
  • Das Institute for the Study of War hat mindestens 35 verdächtige Videos vom Schlachtfeld gezählt.
  • Rechteinhaber von Elvis Presley und Eminems Verlag haben den KI-Musikgenerator Suno verklagt.
  • Bundesstaatsanwälte haben einen ehemaligen Jugendtrainer wegen mutmaßlich KI-generierter Darstellungen sexuellen Kindesmissbrauchs angeklagt.
  • Rund 14% der 766 befragten Fachleute für öffentliche Sicherheit gaben an, mit KI-Tools ins Visier genommen worden zu sein.

KI-geklonte Führungskräfte angeblich bei Betrug über 129 Millionen Dollar eingesetzt

Bundesstaatsanwälte im Southern District of New York haben am 5. November eine Anklage gegen Jacob Soall, Sharon Hazan und Guy Sheetrit entsiegelt. Die Staatsanwaltschaft wirft dem Trio vor, zwischen Juli 2024 und Februar 2026 Tausende Unternehmen ins Visier genommen zu haben. Dabei sollen KI-geklonte CEOs und sich als Anwälte ausgebende Personen eingesetzt worden sein. Das Verfahren soll mehr als 129 Millionen Dollar eingebracht haben.

Der Watchlist zufolge begann der mutmaßliche Ablauf mit einer E-Mail, die scheinbar von einem CEO stammte und einen Mitarbeiter aufforderte, für eine vertrauliche Transaktion eine Geheimhaltungsvereinbarung zu unterzeichnen. Anschließend schaltete sich eine Person unter der Identität eines echten Anwalts in den Austausch ein. Es folgte ein Telefon- oder Videoanruf, bei dem die Stimme und gelegentlich auch das Gesicht des CEOs per KI nachgeahmt wurden. Die Anweisungen lenkten Zahlungen auf Konten, die von der Gruppe kontrolliert wurden.

Alle drei Angeklagten wurden im Ausland festgenommen, Auslieferungsanträge sind anhängig. Die Anwälte von Sheetrit bestreiten seine Beteiligung. Jedem Angeklagten werden sieben Anklagepunkte vorgeworfen, darunter Überweisungsbetrug, schwerer Identitätsdiebstahl und Geldwäsche. Resemble AI erklärt, der Fall zeige, wie Angreifer einen gefälschten zweiten Kommunikationskanal aufbauen können, um die Identitätsvortäuschung eines Managers glaubhafter zu machen.

Synthetische Videos verbreiten falsche Behauptungen über das Schlachtfeld

Die Financial Times berichtete am 8. November, russische Militäreinheiten und kriegsbefürwortende Blogger hätten KI-generierte oder manipulierte Videos produziert. Darauf war zu sehen, wie Soldaten in ukrainischen Städten Flaggen hissten, die sie nicht erobert hatten. Laut Watchlist teilten Befehlshaber Wladimir Putin mit, russische Truppen hätten Dobropillia in der Oblast Donezk eingenommen, obwohl ukrainische Kräfte die Stadt weiterhin kontrollierten.

Das Institute for the Study of War hat seit dem Sommer mindestens 35 verdächtige Videos gezählt. Zu den gemeldeten Artefakten gehörten eine Flagge, die mitten im Clip ihre Richtung änderte, sowie verzerrte Körper. Resemble AI beschreibt den Fall als Beispiel dafür, dass synthetische Medien genutzt werden, um eine Befehlskette zu täuschen, und nicht nur ein ausländisches Publikum.

Musikklagen stellen Schutz von Stimme und Urheberrecht auf die Probe

Rechteinhaber von Elvis Presley, darunter Authentic Brands Group und Raleigh Music Publishing, sowie der Verlag von Eminem, Eight Mile Style, haben in Kalifornien getrennte Bundesklagen gegen den KI-Musikgenerator Suno eingereicht. Die Klage von Eight Mile wurde am 6. November eingereicht und wirft Suno Urheberrechtsverletzungen bei 269 Kompositionen vor. In der Presley-Klage wird der ELVIS Act von 2024 aus Tennessee angeführt. Außerdem wird behauptet, Suno könne Titel erzeugen, die Presleys Stimme nachahmen.

Suno erklärte gegenüber Variety, das Unternehmen erlaube keine unbefugte Nutzung der Werke von Künstlern und prüfe auf Missbrauch. Resemble AI zufolge könnte der Rechtsstreit klären, wie der Schutz urheberrechtlich geschützter Songs und der Stimme einer Person auf generative Musiksysteme anzuwenden ist.

KI-generierte Missbrauchsdarstellungen und Voice-Swatting

Bundesstaatsanwälte in Rhode Island haben einen 38-jährigen Mann aus North Smithfield angeklagt, der in Turn-, Tanz- und Cheerleader-Einrichtungen in Rhode Island und im Südosten von Massachusetts gearbeitet hatte. WJAR berichtete, dass er dort mutmaßlich Kinder fotografierte und die Bilder mithilfe frei verfügbarer KI-Tools in sexuelle Inhalte umwandelte. Homeland Security Investigations nimmt Kontakt zu Familien auf. Die Anklagepunkte umfassen den versuchten Austausch und die versuchte Herstellung von Darstellungen sexuellen Kindesmissbrauchs sowie die Herstellung obszöner visueller Darstellungen des sexuellen Missbrauchs von Kindern.

NPR berichtete außerdem am 11. November, dass KI-generierte Stimmen bei Swatting-Angriffen eingesetzt werden. Die Watchlist verweist auf eine Bombendrohung gegen die Wheatland Union High School im kalifornischen Yuba County im August, bei der eine synthetische Stimme verwendet wurde. Die Polizei rückte über Nacht aus, der Unterricht wurde abgesagt und es wurde keine Bombe gefunden. In einer im Juni von APCO International und der Public Safety Threat Alliance durchgeführten Umfrage unter 766 Fachleuten für Kommunikation im Bereich der öffentlichen Sicherheit gaben rund 14% an, mit KI-Tools ins Visier genommen worden zu sein.

Für Unternehmen, Behörden und Jugendorganisationen weisen die von Resemble AI beschriebenen Fälle auf Risiken in vertrauten Abläufen hin: bei der Freigabe von Zahlungen durch Führungskräfte, der Berichterstattung vom Schlachtfeld, Notrufen und beim Fotografieren in vertrauenswürdigen Umgebungen. Die Watchlist stellt Verifizierung, Herkunftsnachweise und Schutzmaßnahmen als praktische Herausforderungen neben die andauernde rechtliche Debatte über synthetische Medien.

Ähnliche Meldungen

Deepfake-Watchlist verfolgt Wahlattacken, Missbrauchs-Apps und Kryptobetrug
Sicherheit und Ethik5. November 2026

Deepfake-Watchlist verfolgt Wahlattacken, Missbrauchs-Apps und Kryptobetrug

Die aktuelle Deepfake-Watchlist von Resemble AI untersucht drei Vorfälle mit manipulierten Nachrichtenaufnahmen, versteckten Tools für sexuelle Deepfakes und einem auf…

Resemble AI startet native Echtzeit-Erkennung von Deepfakes in Microsoft Teams
Sicherheit und Ethik3. November 2026

Resemble AI startet native Echtzeit-Erkennung von Deepfakes in Microsoft Teams

Resemble AI hat eine native Integration zur Echtzeit-Erkennung von Deepfakes für Microsoft Teams gestartet. Sie prüft Audio und Video während Meetings auf synthetische…

Resemble AI veröffentlicht Bericht 2026 zu KI in politischen Inhalten und Wahlkämpfen
Forschung2. November 2026

Resemble AI veröffentlicht Bericht 2026 zu KI in politischen Inhalten und Wahlkämpfen

Resemble AI hat einen Bericht zu politischen Deepfakes und zum Einsatz von KI in Wahlkämpfen veröffentlicht, mit dem Titel "Political Deepfakes 2026: AI in Campaigns…