MIT-Professor Eric So warnt in neuem Buch vor „kognitiver Atrophie“ durch intensive KI-Nutzung

Ein Buch, das aus einem persönlichen Moment entstand

So ist Sloan Distinguished Professor of Global Economics and Behavioral Science an der MIT Sloan School of Management. Laut MIT News bietet sein Buch eine der bislang umfassendsten Synthesen dazu, wie KI die Menschen beeinflusst, die sie nutzen. Er räumt ein, dass KI Menschen helfen kann, Arbeit schneller zu erledigen, und in einigen Fällen zu einem nützlichen Werkzeug für bestimmte Fachgebiete geworden ist. Sein Fokus liegt jedoch auf den Kosten, die entstehen, wenn man sich zu breit darauf verlässt.

Das Buch beginnt mit einer Episode aus seinem eigenen Leben. Ein Kollege hatte ihn um Hilfe gebeten, und er schrieb einen halben Satz, bevor er ChatGPT anwies, ihn professionell zu vollenden. Er nahm ein paar kleine Änderungen vor und schickte den Text ab. Danach, sagt er, sei er „unglaublich besorgt“ gewesen, weil er sein eigenes Denken aus dem Prozess herausgenommen hatte. Außerdem habe er festgestellt, dass Studierende ihr Denken an KI auslagern und sie nutzen, um Hausaufgaben zu beantworten, die normalerweise dabei helfen würden, Können aufzubauen.

So stützt sich auf aktuelle Forschung von ihm selbst und anderen, aus Wissenschaft und Industrie. Dazu gehören auch Analysen von KI-Unternehmen, etwa eine Studie von Anthropic, laut der rund die Hälfte der Anfragen von College-Studierenden wenig aufwendige Anfragen nach simplen Antworten waren. Die allgemeine Evidenz, sagt er, zeige, dass sich unsere Lernfähigkeit dramatisch verbessert, wenn wir uns mit dem Stoff auseinandersetzen, erste Misserfolge durcharbeiten und immer wieder nachbessern.

Warum KI so stark anzieht

So beschreibt, was er „AI Gravity“ nennt, einen ständigen Sog, KI zu nutzen. Er verweist auf mehrere zusammenwirkende Faktoren: einen biologischen Instinkt, geistige Energie zu sparen, sozialen Druck, wenn andere mit KI davonziehen, und die praktische Schwierigkeit, KI-Nutzung zu erkennen. Aus seiner Sicht reicht es nicht, Menschen einfach aufzufordern, selbst zu denken.

Auch den systemischen Druck betont er. Viele Organisationen, sagt er, legten KI-Nutzung nicht bloß nahe, sondern machten sie zur Grundlage der Beurteilung, sodass jeder, der einen Bonus oder eine Beförderung will, die Tools einsetzen müsse. Eine ähnliche Logik greife in der Wissenschaft um sich, wo man argumentiere, künftige Arbeitgeber würden KI-Kompetenz verlangen, also solle man jetzt damit anfangen. Das Problem, so So, sei, dass dadurch der Bezug zu den Praktiken und Fähigkeiten verloren gehe, die Menschen eigentlich aufbauen wollen. Das erhöhe die künftige Abhängigkeit und werde zu einer „sich selbst erfüllenden Prophezeiung“.

Zu den Auswirkungen auf den Geist sagt er, KI nehme einen großen Teil der Reibung weg, die nötig sei, um grundlegende Beherrschung aufzubauen, und könne die Fähigkeit verringern, sich durch Probleme zu kämpfen. Auch die Nutzung als Zugang zu Informationen wirke sich auf das Gedächtnis aus. Hinzu komme, dass die Modelle sowohl schmeichlerisch als auch überzeugend seien. Wer sich an eine reibungslose Umgebung gewöhne, in der Modelle uns stets zustimmen, schwäche seine Fähigkeit, mit anderen Menschen in Verbindung zu treten.

Vier Prinzipien für das Zeitalter der KI

So plädiert für „produktives Ringen“ („productive struggle“) und sagt, Anstrengung „bedeutet nicht, dass man leidet“. Er vergleicht den Wandel mit der Zeit nach der Industrialisierung, als Menschen nicht mehr körperlich aktiv sein mussten, um wirtschaftlich produktiv zu sein, und begannen, Sport als etwas bewusst Betriebenes zu betrachten. Eine ähnliche Neubewertung geistiger Anstrengung sei nun nötig.

Auf persönlicher Ebene nennt er vier Prinzipien:

• Die Anstrengung annehmen. Aufwand als prägend begreifen, nicht als Problem, das es zu lösen gilt.
• Den eigenen Wert ohne KI schätzen. Er beschreibt polierte Präsentationen, die mit Claude erstellt wurden, bei denen der Vortragende den Stoff aber offensichtlich nicht verstanden hatte. Das Erstellen der Folien sei Teil eines „untrennbaren Aufgabenbündels“, das eine fundierte Diskussion erst ermögliche.
• Den kognitiven Überschuss reinvestieren. KI kann bei Routineaufgaben Zeit sparen, doch die Ersparnis zählt nur, wenn man sie gut nutzt, etwa um Expertise aufzubauen, Zeit mit der Familie zu verbringen oder eine Sprache zu lernen.
• KI als kognitiven Trainer nutzen. Als Antwortmaschine schadet sie dem Denken, als Tutor kann sie jedoch hervorragend zum Lernen taugen. Das erfordert aber, bewusst Reibung zu suchen und die Motivation dafür aufzubringen.

Was das für Nutzer bedeutet

Sos Botschaft richtet sich gleichermaßen an Einzelne, Studierende und Organisationen. Er spricht von „einem sehr herausfordernden Moment“ und sagt, das Problem müsse ernst genommen werden. Seine Argumentation lautet: Der Nutzen von KI hängt davon ab, wie sie eingesetzt wird, als Abkürzung, die das Denken ersetzt, oder als Werkzeug, das menschliche Fähigkeiten erweitert und Expertise aufbaut.