Künstliche Intelligenz, aktuell.
Direkt aus den Originalmeldungen.

Deepfake-Watchlist: Betrug mit geklonter Stimme, Meloni-Marke, Sony-Takedowns

8. Oktober 2026Von der KI Nachrichten RedaktionQuelle: Resemble AI
Deepfake-Watchlist: Betrug mit geklonter Stimme, Meloni-Marke, Sony-Takedowns
Bild: Resemble AI

Die Deepfake-Watchlist von Resemble AI für die Zeit vom 2. bis 8. Oktober 2026 führt vier Fälle auf: eine virtuelle Entführung mit geklonter Stimme, die eine kalifornische Mutter 5.400 Dollar kostete, Giorgia Melonis Versuch, ihre Stimme als Marke schützen zu lassen, Sony Musics Überschreiten von 260.000 Takedown-Anträgen und ein KI-generierter Politikspot, der in Tasmanien für Streit sorgte.

Das Wichtigste in Kürze
  • Eine kalifornische Mutter verlor 5.400 Dollar bei einem virtuellen Entführungsbetrug mit KI-geklonter Stimme, der fünfeinhalb Stunden dauerte.
  • Giorgia Meloni hat eine EU-Markenanmeldung für ihre Stimme eingereicht, Berichten zufolge die erste durch eine amtierende Regierungschefin.
  • Sony Music hat mehr als 260.000 Takedown-Anträge gegen KI-generierte Tracks gestellt, nach 135.000 Ende März.
  • Laut Resemble AI verlangt kein australisches Bundesgesetz die Kennzeichnung KI-generierter Politikwerbung in sozialen Medien.

Eine geklonte Stimme und ein fünfstündiger Entführungsschwindel

Laut einem am 7. Oktober veröffentlichten Bericht von Fox News, den Resemble AI zusammenfasst, verlor Deborah Del Mastro, Navy-Veteranin und Mutter aus Kalifornien, 5.400 Dollar, nachdem Betrüger mit einer KI-geklonten Stimme ihrer Tochter Sarah eine Entführung vorgetäuscht hatten. Die Täter hielten sie fünfeinhalb Stunden am Telefon und koordinierten die Zahlung über vier Überweisungen per MoneyGram und Western Union. Sarah war die ganze Zeit bei der Arbeit.

Resemble AI weist darauf hin, dass die geklonte Stimme wie Sarah in Panik klang, ein Zustand, den ihre Mutter nur wenige Tage zuvor nach einer Trennung gehört hatte. Del Mastro sagte laut dem Bericht später vor einem Ausschuss des US-Senats, sie sei auch Monate danach noch "völlig traumatisiert".

Rechtlich gibt es laut Resemble AI kein Bundesgesetz, das speziell den Einsatz von KI-Stimmen zur Simulation von Entführungen regelt. Das FBI hat Hinweise zu Maschen der "virtuellen Entführung" herausgegeben, doch das bestehende Recht greift beim zugrunde liegenden Überweisungsbetrug und nicht bei der synthetischen Stimme. Resemble AI argumentiert, die eigentliche Lösung sei eine Herkunftsinfrastruktur (Provenance), die eine Fälschung erkennbar macht, bevor sie die Zuhörer erreicht.

Meloni meldet Stimmmarke an, Sony meldet Anstieg bei Takedowns

POLITICO berichtete am 5. Oktober, dass die italienische Ministerpräsidentin Giorgia Meloni beim Amt der Europäischen Union für geistiges Eigentum beantragt hat, ihre Stimme als Marke einzutragen. Eingereicht wurde ein viersekündiger Clip, in dem sie zweimal "Io sono Giorgia Meloni" sagt. Italienische Medien bezeichnen es als die erste derartige Anmeldung durch eine amtierende Regierungschefin. Resemble AI zufolge wird der Antrag derzeit geprüft und würde im Falle einer Genehmigung zusätzliche rechtliche Hürden gegen unbefugte Stimmreplikation schaffen. KI-generierte Imitationen würde er nicht automatisch verhindern, Plattformen müssten sie auch nicht kennzeichnen. Hintergrund sind die italienischen Parlamentswahlen 2027 und sexuelle Deepfakes, gegen die Meloni seit 2024 auf dem Zivilweg vorgeht.

Billboard und die Financial Times berichteten am 5. Oktober unter Berufung auf Zahlen bis Ende September, Sony Music habe mehr als 260.000 Takedown-Anträge gegen KI-generierte Tracks gestellt, die seine Künstler imitieren. Das ist fast das Doppelte der 135.000 Anträge bis Ende März und entspricht im Durchschnitt mehr als 20.000 pro Monat im zweiten und dritten Quartal 2026. In der Zusammenfassung werden unter anderem Imitationen von Harry Styles, Adele, Britney Spears, Queen und Michael Jackson genannt. Ein Sony-Sprecher sagte Billboard, jeder betrügerische Stream entziehe Geld direkt den Künstlern und Songwritern, deren Werk imitiert werde.

Sonys Kampagne läuft laut Resemble AI auf Grundlage der bestehenden DMCA-Verfahren zur Meldung und Entfernung von Inhalten (Notice-and-Takedown). Der US-amerikanische NO FAKES Act, der Einzelpersonen durchsetzbare Rechte an unbefugten KI-Replikaten einräumen würde, befindet sich weiterhin im Gesetzgebungsverfahren.

KI-Politikspot offenbart Kennzeichnungslücke in Australien

ABC News Australia berichtete am 6. Oktober, die Partei One Nation habe ein KI-generiertes Video mit dem Titel "It's ok to come out... as a One Nation voter." veröffentlicht. Ein Café-Betreiber aus Tasmanien protestierte öffentlich und kündigte an, jede Einnahme von One-Nation-Kundschaft an die Grünen zu spenden, worauf sich ein Schlagabtausch mit der Kandidatin Lee Hanson, der Tochter von Pauline Hanson, entwickelte.

Resemble AI betont, die Partei habe eingeräumt, dass das Video KI-generiert sei, eine Identitätstäuschung liege also nicht vor. Das Problem sei regulatorischer Natur: Kein australisches Bundesgesetz verlange die Kennzeichnung KI-generierter Inhalte in politischer Werbung in sozialen Medien. Die Kennzeichnungspflichten gälten für Rundfunkwerbung, nicht für soziale Plattformen, heißt es in der Zusammenfassung.

Was die Fälle zeigen

Resemble AI zieht aus den vier Fällen einen gemeinsamen Schluss: Die rechtlichen Reaktionen kommen erst nach dem Schaden. Eine Marke hilft nur, wenn ein Missbrauch entdeckt wird, und Takedowns sind dadurch begrenzt, wie schnell ein Rechtsteam Anträge stellen kann. Das Unternehmen, das die Watchlist herausgibt, plädiert für Herkunftssignale, die bereits bei der Erzeugung eingebettet werden, damit synthetisches Audio erkannt werden kann, bevor es jemanden erreicht. Das ist die eigene Position des Unternehmens, und die angeführten Fälle zeigen die Lücke zwischen schneller Erzeugung und langsameren rechtlichen Mitteln.

Ähnliche Meldungen

Resemble AI verfolgt KI-geklonte CEOs, Kriegsfälschungen und Voice-Swatting
Sicherheit und Ethik12. November 2026

Resemble AI verfolgt KI-geklonte CEOs, Kriegsfälschungen und Voice-Swatting

Die aktuelle Deepfake-Watchlist von Resemble AI dokumentiert eine Woche mit Fällen von KI-geklonten Führungskräften, manipulierten Kriegsvideos, Klagen wegen generierter…

Resemble AI startet native Echtzeit-Erkennung von Deepfakes in Microsoft Teams
Sicherheit und Ethik3. November 2026

Resemble AI startet native Echtzeit-Erkennung von Deepfakes in Microsoft Teams

Resemble AI hat eine native Integration zur Echtzeit-Erkennung von Deepfakes für Microsoft Teams gestartet. Sie prüft Audio und Video während Meetings auf synthetische…

Colorado AI Act: Erklärbarkeit und Audit-Trails werden zur Aufgabe der KI-Infrastruktur
Wirtschaft19. Oktober 2026

Colorado AI Act: Erklärbarkeit und Audit-Trails werden zur Aufgabe der KI-Infrastruktur

Der Colorado AI Act, das erste umfassende US-Bundesstaatsgesetz für Hochrisiko-KI-Systeme und algorithmische Diskriminierung, verlagert den Fokus von der…