10.000 KI-Agenten und ein umstrittener Beweis: Brookings über das Absorptionsproblem der Wissenschaft

Was OpenAI angekündigt hat

Wie es in dem Essay heißt, teilte OpenAI am 8. September mit, ein unveröffentlichtes internes Modell habe eine mögliche Lösung für das Existenz- und Glattheitsproblem der Navier-Stokes-Gleichungen hervorgebracht, eines der sieben Millennium-Probleme, die das Clay Mathematics Institute im Jahr 2000 aufgestellt hat. Rund 10.000 Agenten liefen 88 Stunden lang parallel. Die Rechenkosten beliefen sich auf Millionen von Dollar, was OpenAIs Sébastien Bubeck in einem Pressebriefing als etwa das Tausendfache dessen beschrieb, was das Unternehmen zuvor für ein einzelnes Problem ausgegeben hatte.

Der Beweis ist nicht verifiziert. Mathematiker prüfen ihn derzeit, und nach den Regeln des Clay-Instituts muss eine vorgeschlagene Lösung in einer qualifizierten Fachpublikation erscheinen, zwei Jahre abwarten und breite Anerkennung finden, bevor der Preis überhaupt in Betracht kommt. OpenAI erklärt, ihn nicht beanspruchen zu wollen.

Am 6. Oktober veröffentlichte OpenAI auf einen Schlag 722 Manuskripte auf GitHub und reklamierte darin Fortschritte bei 372 offenen Problemen in Algebra, Geometrie, Zahlentheorie und theoretischer Informatik, alle vom selben Modell. Das Unternehmen schätzt, dass ein durchschnittliches Ergebnis rund drei Stunden ChatGPT-Pro-Rechenzeit gekostet hat. Nur 162 Manuskripte enthielten maschinenprüfbare Formalisierungen in Lean. Eine Gruppe, die sich Association for Human Mathematics nennt, bezeichnete die Veröffentlichung als „keine Demonstration von Gelehrsamkeit, sondern eine Demonstration von Macht“. Einen Tag später zog OpenAI drei Manuskripte zurück, nachdem eine interne Prüfung einen Vorzeichenfehler aufgedeckt hatte, der ein Argument sowie die darauf aufbauenden Konstruktionen in zwei weiteren Arbeiten ungültig machte.

Normalwissenschaft in nie dagewesenem Maßstab

Yaraghi argumentiert, dass der Navier-Stokes-Beweis, selbst wenn er hält, in das Muster passt, das er im Juli beschrieben hat: Generative KI eignet sich gut für die Normalwissenschaft, also das Lösen von Rätseln innerhalb eines Rahmens, den Menschen bereits geschaffen haben. Das Problem gelangte mit einer klaren Formulierung und einem eindeutigen Erfolgskriterium zum Agentenschwarm. Er weist außerdem darauf hin, dass Bubeck sagte, OpenAI habe sich den Millennium-Problemen zugewandt, weil auf Twitter Gerüchte kursierten, Anthropic habe zwei davon gelöst. Die Agenda sei also durch Wettbewerb bestimmt worden und nicht dadurch, dass eine Maschine eine wichtige Frage ausgewählt hätte.

Neu sei vor allem der Maßstab. Er vergleicht solche Systeme mit Galileos Teleskop: einem Instrument, das schneller neue Fragen hervorbrachte, als irgendjemand sie bearbeiten konnte, während die Zahl der Astronomen wuchs. Die Sorge sei, dass dieses Instrument genau dann auftaucht, wenn die Zahl der qualifizierten Menschen verringert wird.

Die Produktion skaliert, die Aufnahme nicht

Kern der Argumentation ist eine Asymmetrie. Das Erzeugen von Ergebnissen ist inzwischen ein industrieller Prozess: Mehr Agenten, Rechenleistung und Stunden bringen mehr Output. Ein Ergebnis zu verstehen geschieht dagegen Mensch für Mensch und ist durch die menschliche Kognition und jahrelange Ausbildung begrenzt. Yaraghi verweist auf eine Studie aus der Harvard-Physik, in der Studierende mit einem eigens entwickelten Tutor etwa doppelt so viel lernten wie in einem Kurs mit aktivem Lernen, und das in kürzerer Zeit. Das Doppelte sei ein echter Gewinn, schreibt er, aber eben nicht 10.000 Agenten parallel.

Ökonomisch gesprochen, so Yaraghi, ersetze KI Forschungsarbeit und ergänze Aufnahmearbeit, sodass das Verhältnis von erzeugten zu verstandenen Ergebnissen mit jeder Verbesserung der Fähigkeiten steige.

Was Mathematiker mit dem Erdős-Ergebnis gemacht haben

Der Essay erinnert an den Mai, als ein internes OpenAI-Modell die Einheitsabstandsvermutung von Paul Erdős widerlegte. Neun Mathematiker prüften den Beweis und veröffentlichten ein Begleitpapier mit einer kurzen, von Menschen verifizierten Fassung des Arguments sowie unterzeichneten Reflexionen. Thomas Bloom sagte, der ursprüngliche Beweis sei vollständig gültig gewesen, dennoch hätten Menschen ihn erheblich verbessert, weil das Diskutieren, Verdauen und Herausarbeiten von Konsequenzen weiterhin ihre Aufgabe sei.

Zwei Reflexionen beunruhigen Yaraghi. Victor Wang merkte an, die Verifikation sei glatt verlaufen, weil das aufbereitete Argument nur wenige Seiten umfasste; bei einem längeren wäre es womöglich anders gelaufen. Melanie Matchett Wood sagte, in vielen Fällen werde es für KI leichter sein, Mathematiker von einem Beweis zu überzeugen, als ein korrektes Argument zu liefern, und sie glaube nicht, dass das Fach darauf vorbereitet sei.

Was das bedeutet

Yaraghis Fazit lautet, dass sich drei Lücken zugleich auftun: mehr maschinell erzeugte Wissenschaft als qualifizierte Gutachter, keine Institution zur Überprüfung maschinell erzeugter Behauptungen außerhalb der reinen Mathematik und eine Ausbildungspipeline für Gutachter, die ausgerechnet jetzt gekappt wird. Der politischen Agenda aus seinen Juli-Beiträgen fehle das dafür wichtigste Instrument, und die Priorität sollte sich hin zu Kapazitäten für Prüfung und Aufnahme verschieben.