CDT-Bericht: Schutzmaßnahmen von KI-Firmen gegen nicht einvernehmliche intime Bilder greifen zu kurz

Was der Bericht untersucht

Der CDT-Bericht beleuchtet, wie Foundation Models, die großen statistischen Modelle hinter den meisten generativen KI-Anwendungen, zur Erstellung nicht einvernehmlicher intimer Bilder (Non-Consensual Intimate Imagery, NCII) genutzt werden können. Für KI-generierte Fälle verwendet er den Begriff AIG-NCII. Laut Bericht lassen sich solche Inhalte erzeugen, indem man das Online-Modell eines Unternehmens mit dem Namen einer Person oder einem Foto der bekleideten Person anweist, indem man ein Modell um Rat bei der Suche nach „Undressing“- oder „Nudification“-Diensten bittet oder indem man ein Modell Code schreiben lässt, mit dem sich solche Bilder erstellen lassen.

Der Bericht beschreibt zudem einen Weg über Drittentwickler, die auf bestehenden Modellen spezialisierte Systeme aufbauen. Bei geschlossenen Modellen kann der ursprüngliche Entwickler in der Regel überwachen, wie das Modell angepasst wird. Bei Open-Weight-Modellen ist das anders: Laut CDT erlauben sie tiefere technische Eingriffe, darunter das Entfernen von Maßnahmen, die schädliche Ausgaben einschränken sollen, oft zu geringen Kosten und ohne Kontrolle durch den ursprünglichen Entwickler.

Die Autorinnen und Autoren stützen ihre Analyse auf öffentliche Dokumentation, wissenschaftliche Literatur, Interviews mit Foundation-Model-Unternehmen unter der Chatham House Rule sowie Interviews mit zivilgesellschaftlichen Gruppen, die zu Menschenrechten, sexualisierter Gewalt, Sexualaufklärung und sexuellen Inhalten arbeiten.

Zentrale Ergebnisse zu Richtlinien und technischen Maßnahmen

Laut CDT richten viele Unternehmen ihre Richtlinien und technischen Maßnahmen auf sexuelle Inhalte im Allgemeinen aus, statt auf das engere Problem, das Abbild einer Person ohne deren Einwilligung in sexuellen Inhalten zu verwenden. Auch ordnen die Richtlinien AIG-NCII unterschiedlich ein: als sexualisierte Gewalt, als sexuellen Inhalt, als unbefugte Nutzung des Abbilds oder als Mischform. Dem Bericht zufolge setzen bestehende Richtlinien AIG-NCII häufig mit legalen sexuellen Inhalten gleich.

Diese Ungenauigkeit werde noch dadurch verschärft, so der Bericht, dass technische Maßnahmen auf von Natur aus unberechenbare KI-basierte Systeme setzen, um die Richtlinien auszulegen und durchzusetzen. Laut CDT kann das sowohl zu wenig Schutz vor AIG-NCII als auch Eingriffe in legale Meinungsäußerungen bedeuten.

Der Bericht betont außerdem, dass Foundation Models auch nicht missbräuchlichen Zwecken dienen können. Als Beispiele nennt er eine Person, die Bilder von sich in Dessous erzeugt, deren Kauf sie erwägt, die Änderung eines identifizierenden Merkmals wie eines Tattoos aus Datenschutzgründen oder die Erstellung von Inhalten mit einem Partner in einer Fernbeziehung. NCII könne sogar unbeabsichtigt entstehen, etwa wenn ein Prompt für eine generische unbekleidete Person ein Bild liefert, das mit einer Person des öffentlichen Lebens verwechselt werden könnte.

Lücken bei Tests und Abdeckung

CDT stellt fest, dass technische Maßnahmen überwiegend auf Produktebene und nicht auf Modellebene greifen. Dadurch fehlen Produkten, die auf einem Foundation Model aufbauen, womöglich die Schutzmechanismen, die in den eigenen Produkten des Modellanbieters vorhanden sind. Der Bericht sieht darin ein besonderes Problem bei Open-Weight-Modellen, die sich seiner Aussage nach auch von Tätern mit geringen oder gar keinen technischen Kenntnissen leicht für AIG-NCII anpassen lassen.

Die Unternehmen geben an, mehrere technische Maßnahmen einzusetzen, doch laut CDT testen sie nicht gründlich, wie gut diese gegen AIG-NCII wirken. Der Bericht fügt hinzu, dass wissenschaftliche Studien, die grundlegende Schwächen solcher Maßnahmen belegen, sowie Berichte zivilgesellschaftlicher Organisationen über zunehmende AIG-NCII-Vorfälle erhebliche Zweifel an ihrer Wirksamkeit aufwerfen.

Was CDT fordert

Der Bericht fordert, unter Einbeziehung mehrerer Interessengruppen einen Teststandard zu definieren. Ein solcher Standard würde messen, in welchem Umfang eine Maßnahme, ein Foundation Model oder ein nachgelagertes Produkt AIG-NCII aus technischer Sicht eindämmt, und festlegen, welche Testergebnisse eine Maßnahme als wirksam oder ein Produkt als ausreichend „sicher“ qualifizieren würden.

CDT betont zudem, dass das Thema über die Technik hinausgeht. AIG-NCII werde von finanziellen Anreizen, Plattformdesign, kulturellen Normen, Rechtsordnungen und Bildungslücken beeinflusst. Technische Maßnahmen mit nachgewiesener Wirksamkeit seien ein wichtiger Ansatz, so der Bericht, doch es brauche auch Maßnahmen, die die übergeordneten finanziellen, sozialen und rechtlichen Strukturen prägen, die sexuellen Missbrauch begünstigen.

Die Autorinnen und Autoren weisen darauf hin, dass einige Unternehmen häufiger genannt werden als andere, weil sie mehr öffentliche Informationen veröffentlichen, nicht unbedingt wegen ihrer Praktiken.