Resemble AI verfolgt KI-geklonte CEOs, Kriegsfälschungen und Voice-Swatting

Die aktuelle Deepfake-Watchlist von Resemble AI dokumentiert eine Woche mit Fällen von KI-geklonten Führungskräften, manipulierten Kriegsvideos, Klagen wegen generierter Musik, synthetischen Darstellungen sexuellen Kindesmissbrauchs und KI-gestütztem Swatting. Die Vorfälle zeigen, wie synthetische Medien bei Finanzbetrug, militärischer Desinformation, Gefahren für die öffentliche Sicherheit und Missbrauch eingesetzt werden.
- Die Staatsanwaltschaft wirft einer Gruppe vor, KI-geklonte CEOs und falsche Anwälte bei einem Betrug von mehr als 129 Millionen Dollar eingesetzt zu haben.
- Das Institute for the Study of War hat mindestens 35 verdächtige Videos vom Schlachtfeld gezählt.
- Rechteinhaber von Elvis Presley und Eminems Verlag haben den KI-Musikgenerator Suno verklagt.
- Bundesstaatsanwälte haben einen ehemaligen Jugendtrainer wegen mutmaßlich KI-generierter Darstellungen sexuellen Kindesmissbrauchs angeklagt.
- Rund 14% der 766 befragten Fachleute für öffentliche Sicherheit gaben an, mit KI-Tools ins Visier genommen worden zu sein.
KI-geklonte Führungskräfte angeblich bei Betrug über 129 Millionen Dollar eingesetzt
Bundesstaatsanwälte im Southern District of New York haben am 5. November eine Anklage gegen Jacob Soall, Sharon Hazan und Guy Sheetrit entsiegelt. Die Staatsanwaltschaft wirft dem Trio vor, zwischen Juli 2024 und Februar 2026 Tausende Unternehmen ins Visier genommen zu haben. Dabei sollen KI-geklonte CEOs und sich als Anwälte ausgebende Personen eingesetzt worden sein. Das Verfahren soll mehr als 129 Millionen Dollar eingebracht haben.
Der Watchlist zufolge begann der mutmaßliche Ablauf mit einer E-Mail, die scheinbar von einem CEO stammte und einen Mitarbeiter aufforderte, für eine vertrauliche Transaktion eine Geheimhaltungsvereinbarung zu unterzeichnen. Anschließend schaltete sich eine Person unter der Identität eines echten Anwalts in den Austausch ein. Es folgte ein Telefon- oder Videoanruf, bei dem die Stimme und gelegentlich auch das Gesicht des CEOs per KI nachgeahmt wurden. Die Anweisungen lenkten Zahlungen auf Konten, die von der Gruppe kontrolliert wurden.
Alle drei Angeklagten wurden im Ausland festgenommen, Auslieferungsanträge sind anhängig. Die Anwälte von Sheetrit bestreiten seine Beteiligung. Jedem Angeklagten werden sieben Anklagepunkte vorgeworfen, darunter Überweisungsbetrug, schwerer Identitätsdiebstahl und Geldwäsche. Resemble AI erklärt, der Fall zeige, wie Angreifer einen gefälschten zweiten Kommunikationskanal aufbauen können, um die Identitätsvortäuschung eines Managers glaubhafter zu machen.
Synthetische Videos verbreiten falsche Behauptungen über das Schlachtfeld
Die Financial Times berichtete am 8. November, russische Militäreinheiten und kriegsbefürwortende Blogger hätten KI-generierte oder manipulierte Videos produziert. Darauf war zu sehen, wie Soldaten in ukrainischen Städten Flaggen hissten, die sie nicht erobert hatten. Laut Watchlist teilten Befehlshaber Wladimir Putin mit, russische Truppen hätten Dobropillia in der Oblast Donezk eingenommen, obwohl ukrainische Kräfte die Stadt weiterhin kontrollierten.
Das Institute for the Study of War hat seit dem Sommer mindestens 35 verdächtige Videos gezählt. Zu den gemeldeten Artefakten gehörten eine Flagge, die mitten im Clip ihre Richtung änderte, sowie verzerrte Körper. Resemble AI beschreibt den Fall als Beispiel dafür, dass synthetische Medien genutzt werden, um eine Befehlskette zu täuschen, und nicht nur ein ausländisches Publikum.
Musikklagen stellen Schutz von Stimme und Urheberrecht auf die Probe
Rechteinhaber von Elvis Presley, darunter Authentic Brands Group und Raleigh Music Publishing, sowie der Verlag von Eminem, Eight Mile Style, haben in Kalifornien getrennte Bundesklagen gegen den KI-Musikgenerator Suno eingereicht. Die Klage von Eight Mile wurde am 6. November eingereicht und wirft Suno Urheberrechtsverletzungen bei 269 Kompositionen vor. In der Presley-Klage wird der ELVIS Act von 2024 aus Tennessee angeführt. Außerdem wird behauptet, Suno könne Titel erzeugen, die Presleys Stimme nachahmen.
Suno erklärte gegenüber Variety, das Unternehmen erlaube keine unbefugte Nutzung der Werke von Künstlern und prüfe auf Missbrauch. Resemble AI zufolge könnte der Rechtsstreit klären, wie der Schutz urheberrechtlich geschützter Songs und der Stimme einer Person auf generative Musiksysteme anzuwenden ist.
KI-generierte Missbrauchsdarstellungen und Voice-Swatting
Bundesstaatsanwälte in Rhode Island haben einen 38-jährigen Mann aus North Smithfield angeklagt, der in Turn-, Tanz- und Cheerleader-Einrichtungen in Rhode Island und im Südosten von Massachusetts gearbeitet hatte. WJAR berichtete, dass er dort mutmaßlich Kinder fotografierte und die Bilder mithilfe frei verfügbarer KI-Tools in sexuelle Inhalte umwandelte. Homeland Security Investigations nimmt Kontakt zu Familien auf. Die Anklagepunkte umfassen den versuchten Austausch und die versuchte Herstellung von Darstellungen sexuellen Kindesmissbrauchs sowie die Herstellung obszöner visueller Darstellungen des sexuellen Missbrauchs von Kindern.
NPR berichtete außerdem am 11. November, dass KI-generierte Stimmen bei Swatting-Angriffen eingesetzt werden. Die Watchlist verweist auf eine Bombendrohung gegen die Wheatland Union High School im kalifornischen Yuba County im August, bei der eine synthetische Stimme verwendet wurde. Die Polizei rückte über Nacht aus, der Unterricht wurde abgesagt und es wurde keine Bombe gefunden. In einer im Juni von APCO International und der Public Safety Threat Alliance durchgeführten Umfrage unter 766 Fachleuten für Kommunikation im Bereich der öffentlichen Sicherheit gaben rund 14% an, mit KI-Tools ins Visier genommen worden zu sein.
Für Unternehmen, Behörden und Jugendorganisationen weisen die von Resemble AI beschriebenen Fälle auf Risiken in vertrauten Abläufen hin: bei der Freigabe von Zahlungen durch Führungskräfte, der Berichterstattung vom Schlachtfeld, Notrufen und beim Fotografieren in vertrauenswürdigen Umgebungen. Die Watchlist stellt Verifizierung, Herkunftsnachweise und Schutzmaßnahmen als praktische Herausforderungen neben die andauernde rechtliche Debatte über synthetische Medien.
Resemble AI: The Deepfake Watchlist: Week of November 6–12, 2026


