Meta setzt bei der Anzeigenprüfung KI-Tools gegen Kindesausbeutung ein

Werbung als neuer Weg für Täter

Laut Meta wechseln Täter zwischen Plattformen und ändern ihre Taktiken, um nicht entdeckt zu werden. Werbung sei eine der Flächen, auf denen das Unternehmen diese Verschiebung beobachtet habe. Böswillige Akteure nutzten häufig Inhalte, die darauf ausgelegt seien, die Prüfung zu umgehen. Eine Anzeige könne für sich genommen harmlos aussehen und dennoch auf illegales Material verweisen, das außerhalb der Meta-Plattformen gehostet wird.

Nachdem Meta verstanden hatte, wie dieses Schema der bösartigen Werbung funktioniert, habe man sich nach eigenen Angaben nicht auf die gemeldeten Anzeigen beschränkt. Das Unternehmen weitete die Untersuchung aus, um zusammenhängende Aktivitäten auf seinen Plattformen aufzuspüren, sperrte die verantwortlichen Konten und blockierte die beteiligten externen Links.

Das ist neu in der Anzeigenprüfung

Meta zufolge wurden anschließend weitere Maßnahmen eingeführt, darunter neue KI-Tools, um Anzeigen besser zu erkennen, die entweder CSAM zeigen oder Nutzer zu Verstößen außerhalb der Plattform führen. Die Ankündigung nennt unter anderem:

• LLM-Erkennung von „Signposting“: ein neues System auf Basis eines großen Sprachmodells, das auf scheinbar harmlose Anzeigeninhalte zielt, bei denen der starke Verdacht besteht, dass sie Menschen verdeckt zu illegalen Inhalten oder schädlichen Aktivitäten außerhalb der Meta-Plattformen leiten.
• Zielanalyse: ein besseres Verständnis davon, wohin eine Anzeige führt und nicht nur, was sie zeigt, damit Meta verstoßende Ziele blockieren und gegen die verantwortlichen Konten vorgehen kann.
• Zusätzliche KI-gestützte Durchläufe: Prüfungen von Anzeigeninhalten, um Material aufzuspüren, das frühere Systeme nicht erfasst haben. Dabei nutzt das Unternehmen Signale, die es im Zuge der laufenden Untersuchung weiter ausbauen will.
• Ein Red-Teaming-KI-Agent: ein Werkzeug, das Metas eigene Abwehr auf Schwachstellen abklopft, damit neue gegnerische Taktiken erkannt werden, bevor sie sich ausbreiten.
• Stärkere Erkennung von Wiederholungstätern: Mechanismen, um böswillige Akteure zu identifizieren, die nach einer Entfernung versuchen, neue Konten anzulegen.

Bestehende Erkennungstechnik und Zahlen

Meta erläuterte auch die Werkzeuge, die bereits im Einsatz sind. Dazu gehören Verhaltenssignale, die Metadaten und Aktivitätsmuster kombinieren, um verdächtig agierende Konten zu finden, sowie heuristische Regeln, die Klassifikatoren, KI-Modelle und andere Signale verknüpfen, um neue Verstoßmuster in großem Maßstab zu erkennen, auch in Anzeigen.

Das Unternehmen setzt nach eigenen Angaben seit 2011 PhotoDNA und weitere Foto- und Videoabgleichstechnik in allen seinen Apps ein, um identische oder nahezu identische Kopien bekannter CSAM zu erkennen. Meta zufolge unterhält es eine der größten Datenbanken für Bild- und Video-Hashes der Branche, ergänzt sie um neu identifizierte Hashes und teilt diese über das Lantern-Programm der Tech Coalition, damit andere teilnehmende Unternehmen dieselben Inhalte entfernen können. Dieselbe Technik dient dazu, CSAM in Linkvorschauen zu externen Seiten zu erkennen.

Meta gibt an, Links zu externen Websites zu blockieren, die verstoßende CSAM hosten oder erzeugen. Nach der Blockierung eines Links suche man nach weiteren Inhalten, die ihn enthalten, etwa Anzeigen, Beiträge oder Kommentare, und lösche sie. Nutzer könnten blockierte Links auf Facebook, Instagram und Threads nicht mehr posten, und Anzeigen mit solchen Links würden beim Hochladen abgelehnt.

Zum Ausmaß teilt Meta mit, zwischen Januar und Juni 2026 weltweit gegen 33,2 Millionen Inhalte zu sexueller Ausbeutung von Kindern auf Facebook und Instagram vorgegangen zu sein. Über 97 Prozent seien gefunden und proaktiv bearbeitet worden, bevor jemand sie gemeldet habe. In Indien ging das Unternehmen im selben Zeitraum gegen 5,3 Millionen Inhalte vor, von denen über 98 Prozent proaktiv gefunden wurden.

Meldungen an Strafverfolger und was das bedeutet

Findet Meta mögliche Inhalte zu sexuellem Kindesmissbrauch oder zu Ausbeutung, untersucht es nach eigenen Angaben den Fall, entfernt den Inhalt bei einem Richtlinienverstoß, sperrt Konten, wenn Signale auf böswilliges Teilen hindeuten, und meldet den Fall im Einklang mit geltendem Recht an das National Center for Missing & Exploited Children (NCMEC). Ein Team, dem auch frühere FBI-Ermittler angehören, führe manuelle Untersuchungen durch, um Netzwerke von Täterkonten aufzudecken. Ziel sei es, auf Netzwerkebene statt Konto für Konto zu handeln.

Das Unternehmen erklärte zudem, im September angekündigt zu haben, Fälle von Kinderschutz künftig direkt an das indische National Cyber Crime Reporting Portal (cybercrime.gov.in) zu melden, das vom Indian Cybercrime Coordination Centre (I4C) betrieben wird. Das baut auf der bestehenden Meldung von Material zu sexuellem Kindesmissbrauch über das Portal mit Unterstützung des NCMEC auf.

Für Nutzer und Werbetreibende bedeuten die Änderungen eine genauere Prüfung dessen, wohin eine Anzeige führt und nicht nur, was sie zeigt. Zudem steigt die Wahrscheinlichkeit, dass Konten, die mit verstoßenden Anzeigen verbunden sind, gesperrt und ihre Links blockiert werden. Meta stellt die Arbeit als fortlaufend dar und kündigt an, seine Tools weiter anzupassen, wenn Täter ihre Methoden ändern.