Australischer Senator ruft zur Beteiligung auf: Welche Rolle spielt KI bei der Radikalisierung Jugendlicher?

Untersuchung offen für Eingaben aus der Öffentlichkeit

Der Parlamentarische Gemeinsame Ausschuss für Nachrichtendienste und Sicherheit nimmt nun öffentliche Stellungnahmen zu Wesen und Treibern von Radikalisierung in Australien entgegen, einschließlich der Rolle der Technologie. Ciccone, der den Ausschuss leitet, sagt, er habe sich für die Untersuchung starkgemacht, wie junge Australierinnen und Australier online radikalisiert werden. Gaming-Plattformen, verschlüsselte Chats und Algorithmen gehörten zu den Ausgangspunkten.

Der Ausschuss wolle nicht nur Fachleute, sondern die gesamte Gesellschaft hören, sagt er, denn das Thema betreffe Familien in allen Teilen Australiens. Eingaben seien über die Website des Ausschusses möglich. Laut Ciccone legt die Untersuchung ihren Bericht bis zum 22. März 2027 vor, doch ihre Ergebnisse seien nur so gut wie die Belege, die ihr vorgelegt werden.

Sein Artikel folgt auf die Rede von Premierminister Anthony Albanese vor der UN-Generalversammlung. Darin forderte Albanese, die Welt müsse zusammenarbeiten und den Risiken der KI zuvorkommen. Als Beispiel dafür, dass Regierungen handeln, statt darauf zu warten, dass andere den ersten Schritt tun, verwies er auf Australiens weltweit erste Altersbeschränkungen für soziale Medien.

Was die Belege bislang zeigen

Ciccone sagt, extremistische Gruppen nutzten das Internet seit Jahren, um Propaganda zu verbreiten und Anhänger zu finden, und KI könne diesen Prozess enorm beschleunigen. Er betont, man müsse trennen zwischen dem, was bekannt ist, und dem, was noch untersucht wird.

Das klarste Beispiel sei die Propaganda, schreibt er. Gruppen wie ISIS und Al-Qaida hätten generative KI-Werkzeuge genutzt, um Rekrutierungsmaterial und Desinformation zu erstellen, und KI könne solche Inhalte schneller und leichter auf unterschiedliche Zielgruppen zuschneiden.

Er verweist außerdem auf Belege dafür, dass KI verletzlichen Menschen praktische Mittel an die Hand geben kann, um extremistische Überzeugungen in die Tat umzusetzen:

• Tech Against Terrorism, eine von der UN unterstützte Beobachtungsstelle, testete 27 KI-Modelle mit mehr als 2.000 Anfragen, die auf realen terroristischen Anwendungsfällen beruhten, darunter Anleitungen zu Sprengstoffen und zur Anschlagsplanung. ChatGPT, das am häufigsten genutzte System, lehnte nur 48 Prozent dieser Anfragen ab.
• Forschende der Universität Cambridge stellten unabhängig davon fest, dass Boko-Haram-Mitglieder Chatbots wie Claude, Gemini, Meta AI und DeepSeek nutzten, um Anschläge zu planen und Methoden zum Bombenbau zu verfeinern.
• Im vergangenen Jahr führte ein Update der Anweisungen für den Chatbot Grok von X dazu, dass dieser Inhalte erzeugte, die Hitler lobten und antisemitische Klischees bedienten. Laut Ciccone zeigt das, wie schnell KI-Systeme auch ohne gezielten Missbrauch schädliches Material hervorbringen können.

Die offene Frage: Kann ein Chatbot direkt radikalisieren?

Die schwierigere Frage sei, so Ciccone, ob ein Chatbot jemanden direkt radikalisieren kann, so wie es ein menschlicher Anwerber durch beharrliche Gespräche tun würde. Forschende bezeichneten dies laut dem Senator als reales und wachsendes Risiko.

Er zitiert den Generaldirektor der Australian Security Intelligence Organisation, Mike Burgess, der im vergangenen November in einer Rede am Lowy Institute sagte: „Das Internet brütet aus, soziale Medien beschleunigen … künstliche Intelligenz verschärft.“

Ciccone stellt das Internet von vor zehn Jahren dem heutigen gegenüber. Früher musste ein junger Mensch das passende Forum, das passende Social-Media-Konto oder eine Person finden, die bereit war, ihn für eine Ideologie zu gewinnen. Heute, sagt er, stoße er womöglich auf einen Chatbot, der nie müde wird, nie widerspricht und Inhalte erzeugen kann, die genau auf seine momentane Gefühlslage zugeschnitten sind.

Gaming-Plattformen, Algorithmen und verschlüsselte Messenger blieben zentral dafür, wie junge Australierinnen und Australier mit extremistischem Gedankengut in Berührung kommen, schreibt er, und KI durchziehe sie alle. Sie könne Propaganda verfassen, Bilder und Videos erzeugen, Material für Chats im Umfeld von Games produzieren und mit verletzlichen jungen Menschen in einem Umfang Gespräche führen, den kein menschlicher Anwerber erreichen könnte.

Was das für Plattformen und Familien bedeutet

Ciccones zentrale Botschaft lautet, Australien solle nicht warten, bis ein junger Mensch durch ein KI-System radikalisiert wird, bevor es fragt, welche Schutzmaßnahmen existieren. Er lädt alle ein, die mit jungen Menschen arbeiten, in diesem Feld forschen, Plattformen entwickeln oder Eltern sind, Belege zur Untersuchung beizusteuern.

Für Technologieunternehmen signalisiert der Artikel, dass KI-Chatbots und ihre Sicherheitsmaßnahmen in der Untersuchung voraussichtlich unter die Lupe genommen werden, denn sie umfasst ausdrücklich die Rolle der Technologie. Die Ablehnungsquote aus den Tests von Tech Against Terrorism ist die Art von Beleg, die diese Debatte prägen könnte. Der Artikel ist ein Meinungsbeitrag, und The Strategist weist darauf hin, dass die Meinungen die der Autorinnen und Autoren sind und nicht die des ASPI.