Deepfake-Watchlist verfolgt Wahlattacken, Missbrauchs-Apps und Kryptobetrug

5. November 2026Quelle: Resemble AI

Die aktuelle Deepfake-Watchlist von Resemble AI untersucht drei Vorfälle mit manipulierten Nachrichtenaufnahmen, versteckten Tools für sexuelle Deepfakes und einem auf Identitätsvortäuschung basierenden Cyberangriff im Zusammenhang mit dem Diebstahl von 6,3 Milliarden US-Dollar bei Binance. Die Fälle zeigen, wie synthetische Medien vertrauenswürdige Institutionen, Verbraucher-Apps und Bewerbungsverfahren ausnutzen können.

Das Wichtigste in Kürze

Storm-1516 setzte angeblich KI-Lippensynchronisation bei echten Lokalnachrichten ein.
Mehr als 400 miteinander verknüpfte Apps und Websites verbargen Tools für sexuelle Deepfakes.
Apple entfernte 19 Apps, nachdem WIRED seine Erkenntnisse geteilt hatte.
Binance führte den Diebstahl vom 29. Oktober auf ein gefälschtes Bewerbungsverfahren zurück.
Binance erklärte, in diesem Jahr 57 mutmaßliche, mit Nordkorea verbundene Versuche gestoppt zu haben.

KI-manipulierte Lokalnachrichten zielten auf Senatskandidaten

Der von Resemble AI hervorgehobene Fall betrifft Storm-1516, ein russisches Einflussnetzwerk, das angeblich echte lokale Fernsehberichte manipulierte, um den Eindruck zu erwecken, sie enthielten erfundene Missbrauchsvorwürfe gegen den Senatskandidaten Sherrod Brown aus Ohio und den Senatskandidaten Troy Jackson aus Maine. PolitiFact, NewsGuard und die Associated Press führten die Videos laut Watchlist auf das Netzwerk zurück.

Für das manipulierte Material wurden Aufnahmen von Cleveland 19 News und WABI-TV verwendet. In einem Fall wurden die Lippenbewegungen der Cleveland-19-Reporterin Nicole Vransky so verändert, dass sie zu Worten passten, die sie nicht gesagt hatte. In einem anderen Fall wurde ein echter WABI-TV-Bericht darüber, wie Jackson eine Wasserflasche warf, so bearbeitet, dass der Eindruck entstand, er habe Mitarbeiter mit einer Axt bedroht. Ehemalige Brown-Mitarbeiter, die in dem Video genannt wurden, erklärten gegenüber PolitiFact und der Associated Press, die ihnen zugeschriebenen Vorwürfe seien falsch.

Resemble AI zufolge wechselte die Operation von Schauspielern zum Einsatz von KI, wobei das Unternehmen auf die Berichterstattung von PolitiFact verweist. Außerdem argumentiert das Unternehmen, dass von Sendern bei der Veröffentlichung von Aufnahmen angebrachte Herkunftssignaturen den Zuschauern und Plattformen helfen könnten zu prüfen, ob ein Clip noch mit der Originalsendung übereinstimmt. Brown, Jackson und Talarico gewannen am 3. November allesamt ihre Wahlen, doch laut Watchlist machte dies den Schaden für Menschen, deren Identitäten und Worte verwendet wurden, nicht ungeschehen.

Gewöhnliche Apps verbargen Funktionen für sexuelle Deepfakes

Eine Untersuchung von WIRED identifizierte mehr als 400 miteinander verknüpfte Apps und Websites, die sich als Dienste wie Tierporträt-Generatoren, Fitnesstrainer und Sprachlern-Apps präsentierten, während sie Tools zur Erstellung sexueller Deepfakes aus hochgeladenen Fotos verbargen. Apple entfernte 19 Apps, nachdem WIRED seine Erkenntnisse geteilt hatte.

Forscher von AI Forensics fanden im September 27 dieser Apps bei Google Play, mit insgesamt mehr als 350.000 Downloads. Die missbräuchliche Benutzeroberfläche erschien erst, nachdem ein externer Server Informationen wie die Sprache eines Nutzers, die Herkunft des Verweises und Kennungen ausgewertet hatte. Infoblox brachte die Operation mit fast 500 verwandten Domains in Verbindung.

Meta erklärte, das Unternehmen habe Maßnahmen gegen 11.600 Werbekonten ergriffen und 209 Apps von der Werbung ausgeschlossen. Apple sagte, die Apps hätten bei der Überprüfung seinen Regeln entsprochen und die Entwickler später geändert, was sie luden. Resemble AI berichtet, dass während der Recherche von WIRED weiterhin ähnliche Apps und Anzeigen auftauchten.

Ein gefälschtes Bewerbungsgespräch ging dem Rekorddiebstahl bei Binance voraus

Der Vorfallbericht von Binance vom 3. November führte den Diebstahl vom 29. Oktober laut Help Net Security auf ein gefälschtes Bewerbungsverfahren zurück. Ein Ingenieur wurde von einem falschen Personalverantwortlichen und einem angeblichen CEO eines fiktiven Unternehmens interviewt und anschließend aufgefordert, auf einem Arbeitscomputer eine mit Malware verseuchte Programmieraufgabe auszuführen.

Der gemeldete Ablauf führte von einem gefälschten Projektdirektor auf einer seriösen Jobplattform über inszenierte Gespräche mit Personalverantwortlichen und einem CEO zu einem bösartigen Assessment-Repository, einem internen KI-Tool, mit dem zwei weitere Ingenieure kompromittiert wurden, und dem Missbrauch eines Dienstes zum Signieren von Wallet-Transaktionen. Das FBI machte Nordkoreas Gruppe TraderTraitor für den Diebstahl verantwortlich. Binance erklärte, die Erkenntnisse würden einer weiteren unabhängigen Prüfung unterzogen.

Binance hat nicht mitgeteilt, ob es sich bei den während des Videointerviews gezeigten Personen um Deepfakes handelte. Das Unternehmen erklärte jedoch, in diesem Jahr 57 mutmaßliche, mit Nordkorea verbundene Versuche erkannt und gestoppt zu haben, darunter gefälschte Bewerbungsgespräche, manipulierte Entwickler-Tools und gefälschte Videoanruf-Apps. Der Fall rückt laut Resemble AI neben den Schutz von Endgeräten auch die Identitätsprüfung bei Bewerbungen als Sicherheitsproblem in den Fokus.