Martha Minow am MIT: KI bedroht die Demokratie, könnte sie aber auch wieder stärken
Die Rechtswissenschaftlerin Martha Minow hat in der Compton Lecture des MIT im Herbst argumentiert, dass künstliche Intelligenz die zivilgesellschaftlichen Grundlagen der Demokratie untergräbt. Zugleich könne die Technologie aber so umgelenkt werden, dass sie die traditionelle Regierungsform der USA stärkt. Minow ist 300th Anniversary University Professor an der Harvard University.
- Martha Minow hielt die Karl Taylor Compton Lecture des MIT im Herbst unter dem Titel "Constituting Democracy in the Era of AI".
- Sie gliederte die Demokratie in vier Zutaten: Bildung, verlässliche Informationen, Schutz vor Gewalt und Fairness.
- Minow warnte, dass dominante KI-Plattformen und schmeichlerische Elemente das kritische Denken junger Menschen gefährden.
- Sie forderte Technologen auf, tutorenartige KI-Werkzeuge, täuschungsresistente Prüfungsformate und eine "Informations-Allmende" zu entwickeln.
- Sie verwies auf eine Gallup-Umfrage, nach der 77 Prozent glauben, die Gründerväter der USA wären vom Zustand des Landes enttäuscht.
Düstere Bilanz der Demokratie, aber ein möglicher Weg nach vorn
Minow hielt den Vortrag an einem Donnerstag am MIT unter dem Titel "Constituting Democracy in the Era of AI". Sie gilt als führende Expertin für Verfassungsrecht und Menschenrechte. "Es ist keine gute Zeit für Demokratie oder Konstitutionalismus", sagte sie.
Sie zählte eine Reihe aktueller Herausforderungen auf: Verstöße gegen Gesetze und Normen, die Unterdrückung der Meinungsfreiheit, die Schwächung der Befugnisse des Kongresses, die Missachtung von Gerichtsentscheidungen und die weit verbreitete Verunglimpfung anderer Gesellschaftsgruppen. Sie verwies auf eine Gallup-Umfrage, nach der 77 Prozent der Befragten meinen, die Gründerväter der USA wären vom heutigen Zustand des Landes enttäuscht.
Minow gliederte ihre Analyse nach vier "Zutaten" der Demokratie: Bildung, verlässliche und zugängliche Informationen, Schutz vor Gewalt und Fairness. Sie untersuchte, wie KI diese Bereiche beeinflusst hat, und schlug vor, wie Menschen moderne Technologie nutzen könnten, um gegenzusteuern. Eine Wende sei "tatsächlich möglich", sagte sie, wenn Menschen am MIT und anderswo "Zeit und Talent in echte und dringend benötigte Lösungen stecken".
KI in der Bildung: das zentrale Anliegen
Ein großer Teil des Vortrags drehte sich um Bildung. Minow wies darauf hin, dass es in den USA bereits große lokale und regionale Unterschiede bei der Bildungsfinanzierung gibt und dass Schulen in den vergangenen drei Jahrzehnten wirtschaftlich und ethnisch deutlich stärker segregiert wurden. Vor diesem Hintergrund drohe KI, die Fähigkeit zum eigenständigen Denken weiter zu schwächen, und das gerade dann, wenn das Verständnis für gesellschaftliche Fragen am dringendsten gebraucht werde.
Die marktbeherrschenden KI-Plattformen "verstärken die Strategien der Social-Media-Konzerne, die Menschen passiv machen", sagte sie. Führende KI-Modelle, Benutzeroberflächen und schmeichlerische Elemente gefährdeten zudem die Entwicklung der Fähigkeiten junger Menschen, zu denken, sich zu erinnern und kritisch zu hinterfragen.
Minow argumentierte, der Trend lasse sich umkehren, etwa durch KI-Werkzeuge, die eher wie Tutoren funktionieren und auf tiefes Denken ausgelegt sind. Ihrer Ansicht nach können bestehende LLMs, das Modelltraining und das Interface-Design Denkanstöße, Fragen und Hinweise geben, statt die Arbeit der Lernenden zu ersetzen. Sie forderte das Publikum auf, bessere Werkzeuge zu entwickeln sowie "aussagekräftigere und täuschungsresistente" Prüfungsformate.
Information, Sicherheit und Fairness
Zum Thema Information sagte Minow, die moderne Medientechnologie habe in den vergangenen Jahrzehnten zu einem Rückgang der Zahl der Journalisten um 75 Prozent geführt, und in Regionen ohne lokale Medien nehme die Korruption zu. Sie regte an, dass gemeinwohlorientierte Technologen auf eine breit genutzte "Informations-Allmende" ("information commons") hinarbeiten, oder auf viele Varianten davon, damit Menschen leichter an verlässlichere Informationen kommen.
Beim Thema Sicherheit warnte sie: "Wir stehen derzeit am Abgrund." Sie kenne viele Richterinnen und Richter, und jeder Einzelne von ihnen sei einer glaubhaften Gewaltandrohung ausgesetzt. Außerdem ging sie auf Desinformation und mehrere Dimensionen gesellschaftlicher Fairness ein.
Trotz aller Warnungen schlug Minow auch positive Töne an und verwies auf Chancen, neue Formen verlässlicher Information, Bildung und Gemeinschaftsbeziehungen zu schaffen. "Wir müssen die Welt, in der wir leben wollen, tatsächlich erst erfinden", sagte sie.
Die Vortragsreihe und die Rednerin
MIT-Präsidentin Sally A. Kornbluth stellte Minow als "Rechtswissenschaftlerin von außerordentlicher intellektueller Bandbreite" vor. Die Karl Taylor Compton Lecture Series wurde 1957 eingeführt und ist die renommierteste Veranstaltung dieser Art am MIT. Compton war der neunte Präsident des MIT und von 1930 bis 1948 im Amt.
Minow gehört seit 1981 zur Fakultät der Harvard Law School und war von 2009 bis 2017 deren Dekanin. Zu ihren Büchern zählen "Making All the Difference" (1990), "Partners Not Rivals" (2002) und "When Should Law Forgive?" (2020).
In der Fragerunde bat Kornbluth sie, ihre Sorgen zu beschreiben. "Ich fürchte den Verlust der Aufklärung", sagte Minow und nannte damit den Glauben an die Vernunft, das Überprüfen von Hypothesen und die Abkehr von Mythen angesichts von Belegen. Deshalb seien ihr Desinformation und der Verlust kritischen Denkens in den Schulen so wichtig.
Was das bedeutet
Minows Botschaft an ein Publikum aus Technologen war ein Aufruf zum Handeln. Tutorenartige KI-Werkzeuge, vertrauenswürdigere Benutzeroberflächen und bessere Prüfungsformate seien Felder, auf denen Menschen am MIT Alternativen zu den von ihr kritisierten Plattformen entwickeln könnten. Der Vortrag brachte weder Produktankündigungen noch Daten zu bestimmten KI-Systemen, stellte aber die Designentscheidungen hinter KI-Werkzeugen in den größeren Zusammenhang der Debatte über Gemeinwesen und Bildung.
