CDT fordert UN-Berichterstatter auf, KI ins Zentrum der Arbeit zur Meinungsfreiheit zu stellen

KI-Unternehmen und Menschenrechtsverpflichtungen

Nach Ansicht des CDT hat das Mandat die Chance, die Governance von KI und anderen neuen Technologien mitzugestalten, da deren Entwicklung unmittelbar den Fluss von Informationen und Ideen berühre, den die Organisation mit Artikel 19 verknüpft. Der erste Schritt sei, von KI-Unternehmen verbindliche Zusagen zu Menschenrechtsprinzipien und -rahmenwerken zu erhalten.

Die Stellungnahme verweist auf mehrere bestehende Instrumente: die Resolution 78/265 der UN-Generalversammlung zu vertrauenswürdiger KI, die gemeinsame Erklärung der Freedom Online Coalition zu KI und Menschenrechten, die OECD-Grundsätze für vertrauenswürdige KI sowie ein Grundlagenpapier des UN-Hochkommissariats für Menschenrechte zur verantwortungsvollen Entwicklung und Nutzung generativer KI. Diese Prinzipien könnten und sollten KI-Systeme so steuern, dass Transparenz und Rechenschaftspflicht über den gesamten Entwicklungszyklus hinweg verbessert werden, so das CDT.

Moderationswerkzeuge und die Sprachlücke

Das CDT lenkt die Aufmerksamkeit außerdem auf große Sprachmodelle (LLMs), die Online-Dienste, darunter auch KI-Unternehmen, zur Moderation von Inhalten und zur Vermittlung des Zugangs zu Informationen einsetzen. Solche Werkzeuge und Schutzmechanismen sollen Ausgaben sicher, nützlich und relevant halten, könnten aber die Rechte der Nutzer beeinträchtigen. Die Organisation verweist auf neue Forschung, wonach KI-gestützte Schutzmechanismen Äußerungen zu marginalisierten Identitäten und zu Politik unterdrücken können, insbesondere wenn Anfragen oder Verhalten der Nutzer nicht den Ansichten der Mächtigen entsprechen.

Der Sonderberichterstatter könne einen thematischen Bericht oder Konsultationen mit mehreren Interessengruppen vorantreiben, auch mit technischen Fachleuten, und Unternehmen dabei unterstützen, internationale Menschenrechtsprinzipien beim Bau LLM-basierter Werkzeuge anzuwenden, so der Vorschlag.

Ein zweites Anliegen ist die Sprache. Das CDT warnt vor einem zweigeteilten Informationsumfeld: eines für Englisch und eines für den Rest der Welt. Es zitiert den jüngsten International AI Safety Report, wonach mehrsprachige Fähigkeiten und die Zuverlässigkeit in unterschiedlichen Kontexten weiterhin „gezackt“ („jagged“) seien. Laut der Stellungnahme neigen Systeme in anderen Sprachen als Englisch eher zu Halluzinationen, zitieren weniger seriöse Quellen und umgehen Sicherheitsvorkehrungen leichter.

Die Organisation weist darauf hin, dass sich KI-Unternehmen zunehmend verpflichten, Antworten an lokales Recht und lokale Kultur anzupassen. Das CDT hält dies in manchen Fällen für vorteilhaft, in Staaten, die Rechte unterdrücken, könne es Nutzer jedoch den Zugang zu Informationen über Themen wie LGBTQ+-Identität und -Rechte, Frauenrechte und politischen Dissens kosten.

Teilhabelücken bei der KI-Regulierung

Das CDT beschreibt ein erhebliches Ungleichgewicht darin, wer an der KI-Governance beteiligt ist. Führende KI-Modelle (Frontier-Modelle) werden überwiegend von Privatunternehmen in wenigen Ländern entwickelt. Das Hochrangige Beratungsgremium der UN für künstliche Intelligenz berichtete, dass 118 Länder, vor allem im Globalen Süden, an sieben großen internationalen KI-Governance-Initiativen außerhalb der UN nicht beteiligt sind. Private Investitionen eilten der Regulierung davon, ergänzt das CDT, und vielen Regierungen fehle es an technischer Expertise oder rechtlichen Kapazitäten, um eigenständig zu handeln. Die Zivilgesellschaft sehe sich ähnlichen Ungleichgewichten gegenüber und nenne technische und algorithmische Intransparenz als Hindernis.

Die Stellungnahme hebt auch ein Geschlechtergefälle hervor. Demnach besetzen Männer 8 von 10 Stellen im KI-Bereich und fast 9 von 10 Führungspositionen. Das CDT argumentiert, dadurch fehlten bei Bemühungen gegen technologiegestützte geschlechtsspezifische Gewalt und algorithmische Verzerrungen die Stimmen der am stärksten Betroffenen. Es verweist auf nicht einvernehmliche intime Bilder, darunter KI-generierte Deepfakes, die nach Angaben der Organisation überproportional Frauen und LGBTQ+-Personen treffen und eingesetzt werden, um Opfer zu schädigen und zum Schweigen zu bringen. Die daraus folgende abschreckende Wirkung führe dazu, dass Frauen sich selbst zensierten, insbesondere Women of Color, Journalistinnen, Menschenrechtsverteidigerinnen und Politikerinnen.

Was das CDT vom Mandat im Blick sehen will

Die Stellungnahme benennt drei aufkommende Trends, bei denen die Aufmerksamkeit des Berichterstatters nach Ansicht des CDT eine rechtekonforme Regulierung voranbringen würde. Der erste ist ein KI-vermitteltes Informationsumfeld, das das CDT als tiefgreifenden Wandel beim Zugang zu und bei der Ausübung von Meinungs- und Meinungsäußerungsfreiheit beschreibt. Menschen nutzen KI zunehmend, um an Informationen zu gelangen, sowohl direkt über Chatbots, KI-Browser und Agenten als auch indirekt. Der vorliegende Text bricht ab, bevor die beiden anderen Trends beschrieben werden.

Die Botschaft des CDT an das UN-Mandat lautet, dass KI-Governance, inklusive Beteiligung und die Rechenschaftspflicht von Unternehmen neben den bestehenden Prioritäten zu Informationsqualität und öffentlicher Teilhabe stehen sollten.