Forscher: Australiens „Ausschalter“ für den Algorithmus ist die falsche Lösung

Eine begrüßenswerte Reform, eine verkürzte öffentliche Botschaft

Am 8. September hat die australische Regierung einen Konsultationsentwurf für ihre geplante Digital Duty of Care vorgelegt. Nach Ansicht der Autoren ist das eine begrüßenswerte und notwendige Reform, die Online-Dienste verpflichtet, vorhersehbare Schadensrisiken proaktiv zu erkennen und angemessene Maßnahmen dagegen zu ergreifen. Sie bezeichnen sie als positiven Schritt, vor allem für den Schutz von Kindern.

Der Gesetzentwurf verpflichtet die Plattformen außerdem, „User Empowerment Tools“ bereitzustellen, die noch nicht näher bestimmt sind. Unter dem Label „My Feed, My Way“ sollen Nutzerinnen und Nutzer ab 16 Jahren mehr Kontrolle darüber erhalten, ob ihr wichtigster Social-Media-Feed algorithmisch empfohlene Inhalte zeigt oder nur Beiträge von Konten, denen sie folgen, in chronologischer oder umgekehrt chronologischer Reihenfolge.

Medien und Kommentatoren hätten, angeregt durch die Kommunikation der Regierung, die simpelste Idee aufgegriffen: dass Australier „den Algorithmus“ erstmals abschalten könnten. Die Autoren fragen, warum ausgerechnet diese Idee zum Kern der öffentlichen Begründung der Reform wurde.

Warum sich Algorithmen nicht einfach abschalten lassen

Die Forschenden argumentieren, „der Algorithmus“ sei zum Kürzel für die weit größere Maschinerie der Plattformmacht geworden. Schädliche Empfehlungen, aggressive Werbung, suchtfördernde Gestaltung, politische Polarisierung und die Sichtbarkeit von Creatorn würden ihm angelastet. Die Sorgen seien real, schreiben sie, doch Algorithmen seien an sich keine „Bösewichte“. Entscheidend sei, wofür sie optimiert werden, wessen Interessen sie dienen und welche Wirkungen sie im großen Maßstab entfalten.

Es gebe nicht den einen Algorithmus, den man ein- oder ausschalten könne. Empfehlungssysteme helfen Menschen, sich in einer Überfülle an Inhalten zurechtzufinden, und Plattformen nutzen Algorithmen auch, um Inhalte zu moderieren, Suchergebnisse zu ranken, Werbung auszuspielen sowie Spam und unechte Aktivitäten zu erkennen. Diese Systeme stützen zudem die Sicherheitsarbeit.

Als Beispiel für eine andere Optimierung nennen die Autoren YouTube. Das Unternehmen arbeite regelmäßig mit einer Gruppe internationaler Experten zusammen, um evidenzbasierte Empfehlungen in Anpassungen seiner Empfehlungssysteme für Konten Minderjähriger einfließen zu lassen und minderwertige Inhalte, die in großer Menge schädlich sein können, geringer zu gewichten. Seit der Umsetzung der Altersgrenzen für soziale Medien, so die Autoren weiter, könnten australische Jugendliche unter 16 von dieser am Wohlbefinden orientierten Optimierung nicht mehr profitieren, auch nicht auf von den Eltern beaufsichtigten Teenagerkonten.

Auch chronologische Feeds sind nicht frei von Algorithmen

Viele Plattformen böten schon heute Werkzeuge, um die Algorithmen hinter den Feeds zu verändern, zu deaktivieren oder zurückzusetzen, so die Autoren, doch seien diese oft schwer zu finden, zu bedienen oder zu verstehen. Auch ein chronologischer Feed oder ein „Following“-Feed folge Regeln dafür, was enthalten ist, was ausgeschlossen wird und in welcher Reihenfolge angezeigt wird.

Die Wahl zwischen zwei von der Plattform vorgegebenen Modi biete nur begrenzte Handlungsmacht, argumentieren sie. Unter Verweis auf eigene Forschung zur Transparenz von Werbung sagen sie, Informationen und Einstellmöglichkeiten machten Plattformsysteme nicht zwangsläufig transparent und gäben Nutzern nicht automatisch mehr Macht darüber. Alternativen könnten Feeds sein, die die liebsten Konten einer Person bevorzugen, Nutzern erlauben, geschätzte Quellen zu benennen, oder eine direktere Kontrolle über die Ranking-Ziele bieten. Sie verweisen auf den „Marktplatz der Feeds“ von Bluesky, auf dem Nutzer kuratierte Feeds selbst gestalten und teilen können.

Zudem warnen sie, dass Inhalte erst existieren müssen, bevor sie empfohlen werden können. Junge Menschen ohne Konto könnten die betroffenen Plattformen weiterhin ausgeloggt nutzen, was für Empfehlungssysteme ein „Kaltstart“-Problem schaffe. Wenn frauenfeindliches oder gewalttätiges Material leicht verfügbar sei, bevor das System viel über eine Person weiß, löse der Verzicht auf Personalisierung das zugrunde liegende Problem nicht, schreiben sie.

Was die Sorgfaltspflicht tatsächlich verlangt

Die Digital Duty of Care selbst erkenne dieses größere Problem an, sagen die Autoren. Gerade mit Blick auf Kinder reiche sie über Empfehlungssysteme hinaus: auf die Inhalte, die ein Dienst bereitstellt, die Gestaltungsmerkmale, über die Nutzer ihnen begegnen, und die übergeordneten Systeme und Prozesse, die Risiken erzeugen. Aus ihrer Sicht ist sie deutlich differenzierter, als die Debatte über Ein-Aus-Schalter nahelegt.

Sie sehen außerdem einen Widerspruch in der Haltung der Regierung. Den „Algorithmus“ als etwas darzustellen, wovor Nutzer geschützt werden müssen, passe schlecht zur Pflicht der Plattformen, Schäden vorherzusehen und zu mindern, was logischerweise ausgefeiltere algorithmische Ansätze erfordere, nicht weniger. Im Maßstab einer Plattform lasse sich das Erkennen von Spam, Missbrauch, koordinierten schädlichen Aktivitäten oder wiederholter Konfrontation mit Inhalten wie Material zu Essstörungen nicht von Hand leisten.

Für Nutzer und Politik lautet die Botschaft: Auf die Details des Gesetzentwurfs und darauf, wie die noch nicht näher bestimmten User Empowerment Tools definiert werden, kommt es mehr an als auf den Slogan.