Gefälschte Unterstützer, gefälschte Menschenmengen: Deepfakes prägten die Wahlnachrichten der Woche

Eine Kampagne in Texas erfindet ihre eigenen Unterstützer

Der Hauptfall in der wöchentlichen Beobachtung von Resemble AI betrifft Daniel Wong, kommissarischen County Judge im texanischen Fort Bend County. Laut Newsweek, auf das sich Resemble AI beruft, veröffentlichte seine Kampagne am 23. Oktober ein KI-generiertes Video, in dem Schwarze Einwohner ihn unterstützen. Die Kampagne entfernte es, nachdem Zuschauer darauf aufmerksam gemacht hatten. Seine Kommunikationsdirektorin bestätigte gegenüber FOX 26 Houston, dass das Video KI-generiert war.

Das Video lief auf einer offiziellen Facebook-Seite der Kampagne und wurde von der Bezirkspartei während der vorzeitigen Stimmabgabe erneut geteilt, elf Tage vor der Wahl am 3. November. Resemble AI zufolge legen die meisten Wahl-Deepfakes, die das Unternehmen in diesem Zyklus verfolgt hat, einem Gegner erfundene Aussagen in den Mund. Dieses Video fälschte dagegen den Anschein von Unterstützung.

In der Berichterstattung über das Video wurden mehrere Signale dokumentiert, auf die Erkennungsmodelle trainiert sind:

• Ein Sprecher trug eine Kappe mit der Aufschrift „Daniel Wong“, in der der Name des Kandidaten falsch geschrieben war.
• Eine Werbetafel am Straßenrand hinter einem Sprecher war mit unleserlichen Buchstaben übersät.
• Die Stimmen klangen bei Sprechern, die als verschiedene Personen auftraten, ähnlich.
• Visuelle Verzerrungen ließen Zuschauer das Video kurz nach der Veröffentlichung anzweifeln.

Wongs Gegner, Commissioner Dexter McCoy, nannte das Video verwerflich, weil es Schwarze Wähler zu Menschen herabsetze, die auf ein Almosen aus seien. Die Wong-Kampagne erklärt, ein Unterstützer, der Schwarzer Demokrat sei, habe es erstellt und ihr versichert, dass die gezeigten Personen zugestimmt hätten. Newsweek hat diese Behauptung nach eigenen Angaben nicht unabhängig überprüft. Eine Beschwerde wurde nicht eingereicht, und Resemble AI weist darauf hin, dass das texanische Gesetz gegen Wahl-Deepfakes auf erfundene Darstellungen zielt, die einem Kandidaten schaden sollen. Ob es auch erfundene Unterstützer erfasst, ist daher ungeklärt.

Israels Wahl und das Problem verifizierter Konten

Al Jazeera berichtet, dass sowohl das Lager von Ministerpräsident Benjamin Netanjahu als auch die von Gadi Eisenkot angeführte Opposition vor der Wahl am 27. Oktober KI-generierte Videos und Deepfakes auf X verbreitet haben. Laut The Jerusalem Post teilte Netanjahu am 25. Oktober ein KI-generiertes Bild einer Atomexplosion über Tel Aviv, und Oppositionsführer warfen ihm vor, die Wähler einschüchtern zu wollen.

Am Wahltag veröffentlichte Netanjahu Fotos, die nach seinen Angaben Menschenschlangen vor Wahllokalen in mehrheitlich arabischen Gemeinden zeigten. ABC News Australia berichtet, dass mindestens eines nach einer Analyse der BBC als KI-generiert gekennzeichnet wurde. Resemble AI hält den zweiten Fall für besorgniserregender, weil er als Dokumentation eines Ereignisses präsentiert wurde, das sich gerade abspielte, während die Wähler entschieden, ob sie wählen gehen.

Der Watchlist zufolge hatte Israels Zentrale Wahlkommission eine Wahlbeteiligungs-App des Likud wegen Datenschutzbedenken eingeschränkt, doch in den Berichten wird keine Regel beschrieben, die Kampagnen oder einen amtierenden Ministerpräsidenten daran hinderte, synthetische Bilder zu posten. Resemble AI erklärt, Plattformrichtlinien und Faktenchecker seien darauf ausgelegt, anonyme Fälschungen zu erkennen, während ein verifiziertes Konto die Vermutung der Echtheit genieße, die sich ein gefälschtes Bild zunutze machen könne. Die Wahl endete ohne klares Ergebnis, das Resultat ist umstritten, Koalitionsgespräche laufen.

Betrugsverluste in Großbritannien und ein Gesetzentwurf in Queensland

Der Dienst Report Fraud der City of London Police erhielt zwischen Januar und August 2026 mehr als 1.300 Meldungen über Anlagebetrug, bei dem KI, auch Deepfakes, das Angebot überzeugender machte. Die Verluste beliefen sich auf 24,3 Millionen Pfund. Menschen ab 60 Jahren stellten knapp 80 Prozent dieser Meldungen. Report Fraud prüfte jede Meldung einzeln, um den KI-Einsatz zu bestätigen, und die Polizei verweist potenzielle Anleger auf den Firm Checker der FCA, bevor sie Geld überweisen.

Resemble AI bringt dies mit einer eigenen Auswertung der Meta Ad Library in Verbindung, die in der Vorwoche veröffentlicht wurde. Dem Unternehmen zufolge schalteten Krypto- und Brokermarken KI-markierte Werbemotive etwa dreimal so häufig wie die Gesamtquote der Studie, und Seiten, die einen Markennamen nutzen, ohne von der Marke betrieben zu werden, taten dies mehr als zehnmal so häufig wie die Marken selbst.

In Australien hat laut ABC News die Generalstaatsanwältin von Queensland, Deb Frecklington, am 27. Oktober einen Gesetzentwurf eingebracht, der das Erstellen nicht einvernehmlicher, sexuell eindeutiger Deepfake-Bilder oder -Audioaufnahmen unter Strafe stellt. Die Höchststrafen betragen drei Jahre Haft für Erwachsene und 18 Monate für Kinder. Queensland verbietet derzeit die Verbreitung, nicht aber die Erstellung. Der Entwurf ergänzt zudem eine Definition für intimes Audiomaterial und weitet den Begriff „intimes Bild“ auf nicht echte Bilder aus.

Der Fall, der die Lücke offenlegte, betraf Antonio Rotondo, der sexualisierte Deepfakes von aktuellen und ehemaligen Schülerinnen und Schülern sowie Beschäftigten einer Schule in Brisbane erstellte, darunter eine 13-Jährige, und nur für deren Verbreitung belangt werden konnte.

Was die Woche zeigt

Die Fälle zeigen, dass synthetische Medien auf weniger offensichtliche Weise eingesetzt werden als für eine gefälschte Aussage eines Gegners: erfundene Unterstützer, offizielle Konten mit KI-Bildern und vertrauenswürdige Gesichter als Aushängeschild für Betrug. Resemble AI argumentiert, eine Herkunftskennzeichnung bei der Erzeugung hätte das Video aus Fort Bend unabhängig davon, wer es erstellt hat oder welche Seite es gepostet hat, als synthetisch markiert. Dieser Schutz hänge nicht davon ab, dass Gesetzgeber jede neue Nutzungsart vorhersehen. Der Entwurf aus Queensland zeigt, dass Gesetzgeber auch weiter vorn ansetzen, von der Verbreitung hin zum Akt der Erstellung.