noyb reicht fünf DSGVO-Beschwerden gegen Scale AI wegen Überwachung der Outlier-Beschäftigten ein
Die Datenschutzorganisation noyb hat fünf DSGVO-Beschwerden gegen Scale AI eingereicht, das US-Unternehmen hinter der KI-Trainingsplattform Outlier. Nach Angaben der Organisation überwacht die Firma ihre Beschäftigten mit Trackern von Drittanbietern und unterzieht sie einer invasiven biometrischen Verifizierung.
- noyb hat fünf DSGVO-Beschwerden gegen Scale AI in Frankreich, Italien, den Niederlanden und Österreich eingereicht.
- Laut noyb senden Tracker von TikTok, LinkedIn, Facebook, Sprig und Datadog bei Outlier personenbezogene Daten der Beschäftigten an Dritte.
- Die Beschäftigten müssen wiederholt eine biometrische Verifizierung durch Persona durchlaufen, einschließlich Gesichtsvideo und Ausweis-Upload.
- noyb wirft Scale AI außerdem vor, Auskunftsersuchen ignoriert zu haben, und fordert die Behörden zu Untersuchungen und der Prüfung eines Bußgelds auf.
Beschwerden in vier Ländern eingereicht
noyb hat die Beschwerden in Frankreich, Italien, den Niederlanden und Österreich eingereicht, zwei davon in Österreich. Dabei arbeitete die Organisation mit Intérêt à Agir, DIPLab und Reversing.Works zusammen. Laut noyb beschäftigt Outlier mehr als 900.000 „freiberufliche“ Arbeitskräfte, die KI-Systeme trainieren, indem sie Aufgaben wie das Verfassen von Prompts und das Bewerten von Antworten erledigen.
Zu den bekanntesten Kunden von Scale AI zählen laut noyb Meta, OpenAI, xAI, Google, Anthropic und die US-Regierung. Die Organisation argumentiert, die KI-Branche sei stark von dieser Form der Plattformarbeit abhängig. Auch Tools wie ChatGPT, Gemini und Grok würden von Menschen trainiert, die deren Ausgaben manuell prüfen oder annotieren.
Tracker und biometrische Kontrollen
Der technischen Analyse von noyb zufolge werden auf den Geräten der Beschäftigten während der Nutzung von Outlier Tracker unter anderem von TikTok, LinkedIn, Facebook, der Umfrageplattform Sprig und dem Datenanalyseunternehmen Datadog platziert. Diese Tracker übermitteln demnach alle paar Sekunden personenbezogene Daten an Dritte. Dazu gehören IP-Adressen, Kontaktdaten, eindeutige Kennungen und Informationen zur besuchten Seite. Solche Daten könnten laut noyb für gezielte Werbung und Profiling genutzt werden.
Lisa Steinfeld Leiser, Datenschutzjuristin bei noyb, sagte: „Warum sollten LinkedIn oder Facebook wissen, an welchen Aufgaben du arbeitest?“
Kritik übt noyb auch an der biometrischen Verifizierung, die die Beschäftigten über ein Unternehmen namens Persona wiederholt durchlaufen müssen. Sie umfasst Videoaufnahmen des Gesichts und den Upload eines Ausweises. Scale AI erklärt, der Vorgang solle Identitätsbetrug verhindern und „die Fähigkeiten der Beschäftigten überprüfen“. noyb hält dagegen, er gehe weit über das Erforderliche hinaus. Die Organisation verweist zudem auf einen Sicherheitsvorfall: Im Oktober 2025 wurden rund 70.000 bei Persona gespeicherte Fotos amtlicher Ausweise von Hackern offengelegt. Außerdem räume sich Persona laut noyb das Recht ein, Daten wie IP-Adressen, Geräteinformationen, Geolokalisierungsdaten, Adressen und Verbraucherkreditdaten zu erheben.
Mutmaßliche DSGVO-Verstöße
Laut noyb hat Scale AI keine gültige Rechtsgrundlage, um ohne Einwilligung Tracker auf den Geräten der Beschwerdeführer zu platzieren. Dem Unternehmen wird zudem ein Verstoß gegen den Grundsatz der Datenminimierung nach der DSGVO vorgeworfen, Gleiches gelte für die Verarbeitung biometrischer Daten. Darüber hinaus habe Scale AI die Auskunftsersuchen der Beschwerdeführer nicht beantwortet, was noyb als Verstoß gegen das Auskunftsrecht nach der DSGVO wertet.
Die Organisation fordert die zuständigen Behörden zu einer umfassenden Untersuchung auf und regt ein Bußgeld an, um ähnliche Verstöße künftig abzuschrecken.
Was das für Plattformbeschäftigte bedeutet
Thomas Le Bonniec, Soziologieforscher bei DIPLab, sagte, Plattformarbeit scheine ein „fruchtbarer Boden für eine völlig neue Art der Überwachung am Arbeitsplatz“ zu sein. Baptiste Delmas von Intérêt à Agir erklärte, die Datenschutzbehörden „müssen diese Probleme jetzt ernst nehmen und strenge Durchsetzungsmaßnahmen ergreifen“.
noyb weist darauf hin, dass bereits mehr als 40 Millionen Menschen ihre Arbeit über Plattformen organisieren und dass manche Unternehmen die Beschäftigten zu Unrecht als Selbstständige einstufen, was sie von Sozialleistungen ausschließen kann. Die Beschwerden sind Teil von AI-WORLD, einer Initiative zu den Arbeitsbedingungen entlang der KI-Wertschöpfungsketten, die Intérêt à Agir gemeinsam mit DiPLab leitet und die vom European AI & Society Fund und dem Digital Freedom Fund unterstützt wird. Das Ergebnis liegt nun bei den Datenschutzbehörden. Eine Stellungnahme von Scale AI enthält die Quelle nicht.
