Künstliche Intelligenz, aktuell.
Direkt aus den Originalmeldungen.

Deepfakes und KI-Agenten zielen auf Wähler bei den Midterms 2026, zeigt die Watchlist von Resemble AI

15. Oktober 2026Von der KI Nachrichten RedaktionQuelle: Resemble AI
Deepfakes und KI-Agenten zielen auf Wähler bei den Midterms 2026, zeigt die Watchlist von Resemble AI
Bild: Resemble AI

Die Midterm-Sonderausgabe der Deepfake Watchlist von Resemble AI beschreibt ausländische Einflussoperationen, einen Deepfake-Wahlspot auf Spanisch und KI-Agenten, die Wählern in der Stimme eines Kandidaten Textnachrichten schreiben. Der Bericht vom 15. Oktober 2026 behandelt die Wochen vor der Wahl am 3. November.

Das Wichtigste in Kürze
  • Bloomberg berichtete am 14. Oktober, dass Russland, Iran und China generative KI nutzen, um vor dem 3. November Wahldesinformation zu verstärken.
  • OpenAI sperrte am 8. Oktober russische und iranische Konten, die ChatGPT für Einflussoperationen nutzten.
  • Die Kampagne von Steve Hilton schaltete einen KI-generierten spanischsprachigen Spot, in dem Xavier Becerra eine Aussage macht, die er nie getätigt hat. Der Offenlegungshinweis ist nur etwa drei Sekunden zu sehen.
  • Laut einer Analyse des Center for Democracy and Technology verpflichtet kein Bundesgesetz Wahlkampfteams, offenzulegen, wenn KI-Agenten Wählern Textnachrichten schreiben.
  • Die FCC könnte bereits Ende Oktober über eine Petition des Club for Growth zu politischen Anrufen mit KI-Stimmen entscheiden.

Staatliche Akteure betreiben Desinformation im industriellen Maßstab

Im Mittelpunkt der Watchlist steht ein Bloomberg-Bericht vom 14. Oktober. Laut dem Bericht, wie ihn Resemble AI zusammenfasst, nutzen Russland, Iran und China allesamt generative KI, um vor dem 3. November Desinformation zu verstärken. Am 8. Oktober sperrte OpenAI russische und iranische Konten, bei denen das Unternehmen festgestellt hatte, dass sie ChatGPT für koordinierte Einflussoperationen nutzten. Am selben Tag veröffentlichte Bloomberg seine Recherche.

Resemble AI zufolge verbreitet Russlands Matryoshka-Netzwerk, auch unter der Bezeichnung Storm-1679 geführt, seit Anfang September KI-manipulierte Videos. Dazu zählen Deepfakes amerikanischer Prominenter, die demokratische Kandidaten kritisieren, sowie erfundene Clips im Stil von CNN-Nachrichtensendungen mit per KI geklonten Sprecherstimmen. Iranische Netzwerke setzten KI-generierte Personas ein, die sich als amerikanische Aktivisten ausgaben, um gegen die Republikaner gerichtete Kommentare zu verbreiten. Daily Kos veröffentlichte einige dieser Beiträge, bevor sie auf Echtheit geprüft wurden.

Nach Darstellung von OpenAI, wie Resemble AI sie wiedergibt, nutzten die gesperrten Netzwerke ChatGPT, um Social-Media-Inhalte zu entwerfen, zwischen Sprachen zu übersetzen, um unterschiedliche heimische Zielgruppen zu erreichen, und um "authentisch klingende" Biografien für synthetische Personas zu erzeugen.

Resemble AI argumentiert, die Strategie sei gezielter als das alte Modell, die Öffentlichkeit mit Inhalten zu überfluten. Nach seiner Lesart besteht das Ziel darin, ein glaubwürdiges Medium dazu zu bringen, eine Fälschung zu veröffentlichen, und die übliche Dynamik der politischen Berichterstattung die Verstärkung übernehmen zu lassen. Der Bericht verweist auf einen Fall, in dem eine in einem seriösen Medium platzierte erfundene Erzählung eine öffentliche Reaktion eines amtierenden Europaabgeordneten auslöste. Zur politischen Seite heißt es in der Watchlist, dass gegen die beschriebenen ausländischen Netzwerke keine US-Vollzugsmaßnahmen ergriffen worden seien und der Kongress keinen bundesweiten Standard für den KI-Einsatz bei ausländischen Wahlbeeinflussungsoperationen verabschiedet habe.

Ein spanischsprachiger Deepfake-Spot in Kalifornien

Der erste nummerierte Punkt der Watchlist betrifft Steve Hilton, den republikanischen Kandidaten für das Gouverneursamt in Kalifornien. Seine Kampagne veröffentlichte einen KI-generierten spanischsprachigen Spot, in dem der demokratische Gegner Xavier Becerra sagt, er habe "dafür gekämpft, dass Jungen im Mädchensport antreten". Laut LGBTQ Nation, auf das sich Resemble AI beruft, hat Becerra diese Aussage nie getätigt.

Kalifornien schreibt vor, KI-generierte Inhalte in Wahlwerbung offenzulegen. Die Hilton-Kampagne versah den Spot mit einem Hinweis, der Resemble AI zufolge aber nur im Kleingedruckten und für etwa drei Sekunden zu sehen ist. Die Watchlist ergänzt, dass kein kalifornisches Gesetz verbietet, einem Gegner erfundene Aussagen in den Mund zu legen.

Resemble AI merkt an, dass Hilton in allen veröffentlichten Umfragen mehr als 15 Punkte zurückliegt, und deutet den Spot als Ansprache spanischsprachiger Latino-Wähler, die englischsprachige Faktenchecks womöglich seltener sehen. Es ist das zweite Mal in diesem Wahlzyklus, dass die Kampagne KI-generierte Inhalte mit Becerra einsetzt. Im Juli veröffentlichte sie ein Ensemble-Deepfake von Harris, Newsom und Becerra gemeinsam.

KI-Agenten schreiben Wählern im Namen des Kandidaten

Der zweite nummerierte Punkt stützt sich auf eine Analyse des Center for Democracy and Technology. Danach setzen Wahlkampfteams KI-Agenten ein, die mit Wählern in der Stimme des Kandidaten live in beide Richtungen per Textnachricht kommunizieren, und das Bundesrecht verpflichtet sie nicht, offenzulegen, dass der Absender kein Mensch ist.

Resemble AI nennt mehrere Anbieter. Das Produkt IONCandidate von aKillion führt Textnachrichten in der Persona des Kandidaten, aufgebaut aus dessen Abstimmungsverhalten, Programm und freigegebenen Gesprächspunkten, und kann nach Unternehmensangaben "Tausende gleichzeitige Gespräche führen". Jeder Austausch wird protokolliert und den individuellen Wählerprofilen hinzugefügt. Convos trainiert einen Agenten mit Kandidatenbiografien und politischen Positionen und empfiehlt eine Offenlegung, verlangt sie aber nicht. Vector Political betreibt ähnliche adaptive Gespräche.

Die regulatorische Lage ist laut Watchlist ungeklärt. Der TCPA aus dem Jahr 1991 wurde für aufgezeichnete Anrufe und massenhafte Robotexte geschrieben. Die FCC entschied 2024, dass KI-generierte Stimmen bei Robocalls, die eine vorherige Einwilligung erfordern, als "künstlich" gelten, hat aber nicht gesagt, ob KI-generierte Textnachrichten unter dieselbe Regel fallen. North Dakota verlangt inzwischen eine Offenlegung KI-generierter politischer Textnachrichten. Ob Kaliforniens BOT Act auch SMS erfasst, gilt als offene Rechtsfrage. Über eine anhängige Petition des Club for Growth, politische Anrufe mit KI-Stimmen von der Pflicht zur vorherigen Einwilligung auszunehmen, könnte die FCC schon Ende Oktober entscheiden, womöglich noch vor dem 3. November.

Was das für Wähler bedeutet

Zusammengenommen zeigen die Fälle, dass KI-Werkzeuge auf unterschiedliche Weise eingesetzt werden: um erfundene Inhalte in vertrauenswürdigen Medien zu platzieren, um bestimmte Sprachgruppen mit falschen Aussagen anzusprechen und um direkten Kontakt mit einem Kandidaten zu simulieren. Resemble AI zufolge fahren die ausländischen Operationen nicht herunter. Zudem argumentiert das Unternehmen, aus Sicht eines Wählers sei die Grenze zwischen einer synthetischen Kandidaten-Persona und einer Identitätsvortäuschung dünn. Für Wähler legen die Ergebnisse der Watchlist nahe, dass die Offenlegungsregeln lückenhaft bleiben und Kennzeichnungen, sofern vorhanden, leicht zu übersehen sind.

Ähnliche Meldungen

Resemble AI verfolgt KI-geklonte CEOs, Kriegsfälschungen und Voice-Swatting
Sicherheit und Ethik12. November 2026

Resemble AI verfolgt KI-geklonte CEOs, Kriegsfälschungen und Voice-Swatting

Die aktuelle Deepfake-Watchlist von Resemble AI dokumentiert eine Woche mit Fällen von KI-geklonten Führungskräften, manipulierten Kriegsvideos, Klagen wegen generierter…

Resemble AI startet native Echtzeit-Erkennung von Deepfakes in Microsoft Teams
Sicherheit und Ethik3. November 2026

Resemble AI startet native Echtzeit-Erkennung von Deepfakes in Microsoft Teams

Resemble AI hat eine native Integration zur Echtzeit-Erkennung von Deepfakes für Microsoft Teams gestartet. Sie prüft Audio und Video während Meetings auf synthetische…

Resemble AI veröffentlicht Bericht 2026 zu KI in politischen Inhalten und Wahlkämpfen
Forschung2. November 2026

Resemble AI veröffentlicht Bericht 2026 zu KI in politischen Inhalten und Wahlkämpfen

Resemble AI hat einen Bericht zu politischen Deepfakes und zum Einsatz von KI in Wahlkämpfen veröffentlicht, mit dem Titel "Political Deepfakes 2026: AI in Campaigns…