Australier sagen: Wann man KI einsetzt, zu beurteilen ist wichtiger, als ihre Funktionsweise zu verstehen

Das Vorgehen des Panels

Das Panel versammelte 25 Teilnehmende im Alter von 19 bis 68 Jahren aus unterschiedlichen Hintergründen und Lebenssituationen. In Workshops und schriftlichen Beiträgen schilderten sie, wie KI in ihr Leben tritt und was ihnen hilft oder sie daran hindert, KI wirksam zu nutzen und sich sicher in KI-geprägten Umgebungen zu bewegen.

Laut dem ADM+S Centre ist das Panel die erste Phase einer breiteren nationalen Studie dazu, was es in Australien bedeutet, KI-kompetent zu sein. Die Erkenntnisse sollen in die Forschung dazu einfließen, wie KI-Kompetenz im Alltag aussieht. Die Studie soll Politik, Bildungseinrichtungen und Gemeinschaftsorganisationen helfen, Unterstützung, Lernangebote und Ressourcen gezielter auszurichten.

Druck zur KI-Nutzung und der Begriff „AI discernment“

Die Teilnehmenden erklärten, KI sei in Beruf, Bildung und Alltag zunehmend schwer zu umgehen. Zwei Drittel spürten Druck, KI entweder zu nutzen oder zu meiden. Dieser Druck kann durch den Einsatz im Unternehmen, in Bildungseinrichtungen, durch Websites mit Chatbot-Assistenten oder durch die Veränderung der Suche mittels KI-Zusammenfassungen entstehen. Ebenfalls zwei Drittel berichteten von Meinungsverschiedenheiten mit anderen über die Nutzung von KI.

Als wichtigste Fähigkeiten nannten die Teilnehmenden nicht technisches Verständnis, sondern kritisches Denken und Urteilsvermögen. Die Forschenden bezeichnen das als „AI discernment“ (KI-Urteilsvermögen): die Fähigkeit, kritisch zu beurteilen, wann, wie oder ob KI eingesetzt werden sollte. Dazu gehört auch zu wissen, wann man ihre Ergebnisse hinterfragen oder ablehnen sollte. Eine Teilnehmerin oder ein Teilnehmer formulierte es so: „Man kann richtig gut darin sein, KI zu nutzen, aber man braucht trotzdem Urteilsvermögen und gesunden Menschenverstand.“

Die meisten Teilnehmenden unterschieden zwischen der Nutzung von KI, um Informationen zu finden oder Dinge zu erklären, und dem Verlass auf sie bei persönlichen Ratschlägen. Nur manche fühlen sich wohl dabei, Chatbots zu Gesundheit, Finanzen oder anderen persönlichen Angelegenheiten zu befragen, darunter Erziehungstipps.

Verlässlichkeit, Täuschung und Vertrauen im Netz

Mehr als die Hälfte der Teilnehmenden sagte, KI erleichtere die Informationssuche im Internet. Die Verlässlichkeit KI-generierter Antworten und Zusammenfassungen einzuschätzen, sei jedoch zu einer entscheidenden neuen Fähigkeit geworden, so die Forschenden. Erschwert werde dies dadurch, dass KI-Zusammenfassungen unvorhersehbar Fehler enthalten.

Die Teilnehmenden äußerten zudem große Sorge, dass KI zur Täuschung oder zur Imitation von Personen eingesetzt wird. Die meisten gaben an, nicht mehr sicher sagen zu können, ob ein Bild, Video oder eine Audioaufnahme mit KI erstellt oder verändert wurde. Für viele verändert das, wie sie soziale Medien nutzen und wie sie mit Websites oder E-Mails von unbekannten Absendern umgehen.

Lernangebote und Verantwortung

Fast alle Teilnehmenden interessieren sich für öffentliche KI-Lernveranstaltungen und -Aktivitäten, doch knapp die Hälfte wusste nicht, wo sie lokale Angebote finden kann. Die meisten greifen auf informelle Quellen wie Freunde, Kolleginnen und Kollegen, soziale Medien und KI selbst zurück. Viele gaben an, bei Informationen und Unterstützung auf Menschen in ihrem Umfeld angewiesen zu sein. Wer weder im Beruf noch in der Ausbildung mit KI zu tun hat, berichtete vom schlechtesten Zugang zu Lernangeboten.

Die meisten Teilnehmenden meinen, es gebe zu wenig Mitsprache der Öffentlichkeit bei KI. Sie zeigten großes Interesse, mit Menschen außerhalb ihrer üblichen Netzwerke und „Echokammern“ darüber zu diskutieren, vor allem in lokalen und öffentlichen Foren. Außerdem forderten sie, dass Politik und Organisationen mehr Verantwortung für die Sicherheit von KI übernehmen und dass die Stimmen ganz normaler Menschen bei Entscheidungen über KI berücksichtigt werden.

Dr. Dominique Carlon, Leiterin des Panels und Research Fellow am ADM+S, sagte: „Die gute Nachricht ist, dass die Menschen in Australien KI bereits mit Sorgfalt, Neugier und Urteilsvermögen begegnen.“ John Wilkinson, Acting Chief Sustainability Officer von Telstra, sagte, die Menschen suchten praktische Unterstützung und verlässliche Informationen, da KI immer mehr zum Alltag gehöre.

Was das bedeutet

Die Ergebnisse deuten auf einen Bedarf an öffentlicher Bildung und Beteiligung hin, der über technische Schulungen hinausgeht. Professor Anthony McCosker, Projektleiter und Chief Investigator am ADM+S, sagte, das Ziel sei sicherzustellen, dass diese Erfahrungen Politik und Programme mitgestalten, die Menschen durch den technologischen Wandel begleiten. Das Projekt will nach eigenen Angaben sicherstellen, dass politische Maßnahmen, Bildungs- und Unterstützungsangebote die Realität widerspiegeln, wie Australierinnen und Australier heute mit KI umgehen.