Zwei kanadische KI-Forscherinnen zeigen, wie Sprachmodelle Geschlechterklischees lernen

6. Oktober 2026, 17:17Quelle: CIFAR

Zwei Canada CIFAR AI Chairs, Zhijing Jin und Hila Gonen, untersuchen, wie große Sprachmodelle Geschlechterbias aufnehmen und wo er sich versteckt. Immer mehr Menschen holen sich bei KI Rat zu Gesundheit und persönlichen Finanzen. Laut CIFAR soll ihre Arbeit nicht nur zeigen, ob in einer Ausgabe Bias auftritt, sondern auch, woher er stammt.

Das Wichtigste in Kürze

Die Canada CIFAR AI Chairs Zhijing Jin und Hila Gonen erforschen, wie LLMs Geschlechterbias lernen und zum Ausdruck bringen.
Jin nutzt kausale Graphen, um unzulässige Pfade wie Geschlechter-Stellvertreter (etwa Hobbys) von legitimen wie Qualifikationen zu trennen.
Gonen untersucht Semantic Leakage: Sachfremde Prompt-Details wie ein Blumenladen verschieben die Annahmen eines Modells über das Geschlecht.
Laut Gonen kann Post-Training offensichtlichen Bias unterdrücken, aber subtilere Verzerrungen in den Ausgaben bestehen lassen.
Beide Forscherinnen raten Nutzern, kritisch zu denken und KI als Werkzeug, nicht als Akteur zu behandeln.

Warum Modelle Bias übernehmen

Jin ist Canada CIFAR AI Chair am Vector Institute, Assistant Professor für Informatik an der University of Toronto und Mitgründerin von EuroSafeAI. Sie erklärt, dass große Sprachmodelle (LLMs) im Training enorme Mengen menschengemachter Texte verarbeiten und dabei statistische Beziehungen zwischen Wörtern und Konzepten lernen. Enthält dieses Material starke Assoziationen zwischen Frauen und bestimmten Berufen, kann ein Modell solche Muster ebenfalls erlernen.

Da die Modelle vergangene und aktuelle Daten widerspiegeln, bilden sie zwangsläufig auch historische und gegenwärtige Verzerrungen ab. Jin sagt, dies werfe die Frage auf, wie stark diese Muster die Zukunft beeinflussen dürfen und ob Forschende eingreifen sollten, um Modelle fairer und kausaler zu machen.

Frühe Beispiele waren eindeutig, etwa Modelle, die Frauen mit Krankenpflege und Männer mit Ärzten verbanden. Jins Forschung, die auf der NAACL 2025 vorgestellt und auf der NeurIPS 2024 mit dem Best Paper Award ausgezeichnet wurde, zeigt, dass die Wege, über die demografische Informationen ein Modell beeinflussen, weit komplexer sind.

Kausale Graphen statt Korrelation

Jins Arbeit konzentriert sich auf Kausalität in LLMs, um Fairness, Robustheit und positive gesellschaftliche Wirkung sicherzustellen. Gewöhnliche Korrelation misst nur, ob zwei Datenpunkte gemeinsam auftreten. Jin nutzt stattdessen kausale Inferenz, um Ursache und Wirkung abzubilden.

Der Unterschied ist für menschenzentrierte Anwendungen wichtig. Wer das Geschlecht einer Bewerberin oder eines Bewerbers einfach verbirgt, hindert eine KI nicht daran, etwa Hobbys als indirekten Stellvertreter für das Geschlecht zu verwenden. Modelliert man diese Beziehungen als kausalen Graphen, können Forschende Pfade identifizieren, die eine Entscheidung nicht beeinflussen sollten, etwa Geschlecht und damit verbundene irrelevante Merkmale. Zugleich lassen sich legitime Zusammenhänge zwischen Qualifikation, Erfahrung und Eignung für eine Stelle erhalten.

Semantic Leakage und verborgene Assoziationen

Gonen ist Assistant Professor für Informatik an der University of British Columbia und Canada CIFAR AI Chair am Amii. Sie arbeitet daran, LLMs zu verlässlichen Systemen zu machen, die sprach- und soziodemografieübergreifend zugänglich und fair sind. Sie erforscht ein Phänomen namens Semantic Leakage: Ein Konzept im Prompt beeinflusst die Antwort des Modells, selbst wenn es inhaltlich nichts mit der Frage zu tun hat.

In dem von CIFAR genannten Beispiel beschreibt ein Prompt eine Person, die an einem Blumenladen vorbeigeht, ohne Blumen zu kaufen oder mit dem Geschäft zu interagieren. Allein die Erwähnung des Ladens kann ein Modell dennoch eher annehmen lassen, dass es sich um eine Frau handelt. Die Assoziation mag harmlos wirken, doch derselbe Mechanismus könnte in kritischen Situationen gefährlich sein, etwa wenn klinische KI-Werkzeuge bei der Triage in der Notaufnahme die Schwere der Symptome von Patientinnen unterschätzen.

"Diese Modelle werden so viel stärker, leisten so viel und formulieren so flüssig, dass wir dazu neigen anzunehmen, sie müssten über solche Verzerrungen erhaben sein", sagt Gonen. "Aber das sind sie nicht, denn diese Assoziationen sind weiterhin da."

Das Schwierige daran, so Gonen, sei, dass die Fähigkeit, Assoziationen zu lernen, LLMs auch nützlich mache. Ein Modell solle wissen, dass historische Gehaltsdaten Unterschiede zwischen Männern und Frauen zeigen, wenn es nach Statistiken gefragt wird. Es solle diese Assoziation aber nicht anwenden, wenn es empfiehlt, welches Gehalt eine einzelne Frau fordern sollte.

Was Nutzer und Forschende tun können

Mit Post-Training-Verfahren lässt sich Modellen beibringen, dass bestimmte verzerrte Ausgaben unerwünscht sind. Gonen zufolge haben Modelle beim Vermeiden offensichtlichen Geschlechterbias erhebliche Fortschritte gemacht. Eine verzerrte Antwort zu unterdrücken sei jedoch etwas anderes, als die zugrunde liegenden Assoziationen zu verändern, die sie hervorgebracht haben, und das könne zu weniger offensichtlichem Bias in der Ausgabe führen.

Für Menschen, die heute KI nutzen, betonen beide Forscherinnen menschliche Kontrolle, die auf kritischem Denken beruht. "Wenn die KI sich einschaltet, machen Sie sie zu einem Werkzeug, aber nicht zu einem Akteur", sagt Jin. Gonen erzählt, sie gebe ihr Geschlecht bei Fragen, bei denen es die Antwort beeinflussen könnte, manchmal nicht preis. Das gehe im Englischen leichter als in Sprachen, in denen das Geschlecht grammatisch verankert ist. Sie fügt hinzu: "Ich würde nicht sagen: 'Seien Sie vorsichtig', sondern: Seien Sie achtsam und aufmerksam bei Fällen, in denen Modelle sich je nach Geschlecht und Anwendungsfall unterschiedlich verhalten könnten."