Studie mit 322 Fachartikeln: Informatik und Sozialwissenschaften definieren Hassrede grundverschieden
Ein neuer Open-Access-Aufsatz von Dr. Stefanie Ullmann vom Minderoo Centre for Technology & Democracy (MCTD) der Universität Cambridge kommt zu dem Ergebnis, dass die technische Definition von Hassrede direkte Folgen dafür hat, was automatisierte Systeme erkennen können. Ihre Analyse von 322 Fachartikeln zeigt zwei Diskurse, die miteinander verflochten, aber unvereinbar sind.
- Dr. Stefanie Ullmann vom MCTD der Universität Cambridge hat einen Open-Access-Aufsatz dazu veröffentlicht, wie Hassrede in der KI-Erkennungsforschung konzeptualisiert wird.
- Die Studie analysiert 322 Fachartikel aus der Informatik sowie aus den Sozial- und Geisteswissenschaften mit einem korpusgestützten diskursanalytischen Ansatz (CADS).
- Die Informatik behandelt Hassrede als einzelne Labels auf Sprachausschnitten, die sich für Benchmarking eignen, die Sozial- und Geisteswissenschaften sehen darin eine soziale Praxis.
- Ullmann argumentiert, dass diese Rahmung darüber entscheidet, welche Schäden zu optimierbaren Aufgaben werden und welche außerhalb des Blickfelds bleiben.
- Sie fordert nicht, dass die Informatik wie Soziologie oder Diskursanalyse aussehen soll.
Zwei Sichtweisen auf Hassrede
Die Studie trägt den Titel "Language as Data, Hate as Task: The epistemic normalisation of hate speech in AI" und nutzt einen korpusgestützten diskursanalytischen Ansatz (Corpus-Assisted Discourse Studies, CADS). Sie untersucht, wie Sprache in der Forschung zur Erkennung von Hassrede konzeptualisiert wird, und stützt sich dabei auf 322 Fachartikel aus der Informatik sowie aus den Sozial- und Geisteswissenschaften.
Laut MCTD identifiziert die Arbeit zwei unterschiedliche Diskurse. In der Informatik wird Hassrede als einzelne Labels operationalisiert, die an kurzen Sprachausschnitten hängen, ein Format, das sich für Benchmarking eignet. In den Sozial- und Geisteswissenschaften gilt sie dagegen als soziale Praxis, die in der Geschichte von Rassismus, Sexismus und Plattform-Governance verwurzelt ist.
Warum die Rahmung entscheidend ist
Dr. Ullmann argumentiert, dass es sich dabei nicht einfach um neutrale Nebeneffekte unterschiedlicher fachlicher Schwerpunkte handelt. Dem Aufsatz zufolge entscheiden die Annahmen darüber, wie Sprache, Verzerrung (Bias) und Rassismus konzeptualisiert werden, darüber, welche Schäden zu optimierbaren Aufgaben gemacht werden und welche bei der Erkennung von Hassrede im Netz außerhalb des Blickfelds bleiben.
In ihren Worten: "Under those conditions, choices about how to conceptualise 'language', 'bias' and 'racism' are not neutral side-effects of disciplinary focus; they determine which harms are rendered as optimisable tasks and which remain outside the frame."
In der Praxis bedeutet das: Ein System, das auf gelabelten Textausschnitten beruht, kann nur auf das reagieren, was diese Rahmung sichtbar macht. Schäden, die als Teil umfassenderer gesellschaftlicher Geschichte oder von Plattform-Governance verstanden werden, passen womöglich gar nicht in eine Labeling-Aufgabe.
Kein Aufruf, die Informatik in Soziologie zu verwandeln
Dr. Ullmann stellt klar, dass der Aufsatz nicht verlangt, dass ein Fach das andere nachahmt. Sie behaupte nicht, die Informatik solle "look like sociology or discourse analysis". Ihr Argument lautet stattdessen: "the way 'technical problems' are defined has direct consequences for what can be seen and acted on as hate speech."
Der Aufsatz ist im Open Access verfügbar, das MCTD verweist darauf als Stefanie Ullmann, 2026.
Was das bedeutet
Die Ergebnisse werfen eine Frage auf, die der Modellleistung vorgelagert ist: wie ein Problem definiert wird, bevor überhaupt ein System entsteht. Für Forschende und Entwickler, die an der automatisierten Erkennung von Hassrede arbeiten, legt die Studie nahe, dass Benchmark-Ergebnisse die in die Aufgabe eingebauten Annahmen widerspiegeln und dass diese Annahmen bestimmen, welche Schäden überhaupt adressiert werden. Konkrete Empfehlungen oder Leistungszahlen nennt die Quelle nicht, die praktischen Konsequenzen bleiben daher weiterer Arbeit des Fachs überlassen.
Minderoo Centre for Technology & Democracy: Language as Data, Hate as Task: The epistemic normalisation of hate speech in AI
