AI Futures Project verschiebt Prognose für übermenschlichen KI-Forscher auf 2027

METR-Bericht löst deutliche Anpassung der Zeitprognose aus

Das AI Futures Project erklärt, eine aktuelle Einschätzung von METR deute darauf hin, dass KI das Tempo des Fortschritts derzeit um den Faktor 1,7 gegenüber historischen Werten beschleunigt. METR schätzt, dass Anthropic den KI-Fortschritt etwa doppelt so schnell vorantreibt wie im historischen Durchschnitt. Rund 80 Prozent der aktuellen Beschleunigung seien auf KI zurückzuführen.

Dem AI Futures Project zufolge ergibt diese Kombination eine der KI zuzuschreibende Beschleunigung um den Faktor 1,7 beziehungsweise zwischen 1,67 und 1,74, je nachdem, wie die Schätzung von 80 Prozent interpretiert wird. Die Gruppe bezeichnet dieses Ergebnis als unerwartet, weil ihre jüngsten Prognosen für die zeitliche Entwicklung weniger als drei Monate zurückliegen. Ihr aggressivstes Modell hatte im November 2026 eine Wahrscheinlichkeit von weniger als 4 Prozent dafür angesetzt, dass sich der Fortschritt um mindestens den Faktor 1,7 beschleunigt.

Das Projekt warnt, dass die Analyse vorläufig ist. Außerdem erklärt es, dass sich METRs Schätzungen in erheblichem Maß auf nicht öffentlich zugängliche Belege stützen, da Anthropic den Großteil der von METR als besonders aussagekräftig eingestuften Belege geschwärzt hat.

Meilensteine bei SAR und TED-AI

Das AI Futures Project definiert SAR als den Zeitpunkt, an dem ein Unternehmen alle menschlichen Forscher entlassen und vollständig auf automatisierte KI-Forscher setzen würde, statt ein Team der besten menschlichen Forscher der Welt ohne KI-Unterstützung zu behalten.

Daniel, der als optimistischstes Mitglied der Gruppe beschrieben wird, hatte zuvor eine Wahrscheinlichkeit von 50 Prozent dafür angesetzt, dass SAR vor 2029 erreicht wird. Nun erklärt das Projekt, alle seine Prognostiker erwarteten SAR irgendwann im Jahr 2027, sofern es nicht zu einer substanziellen absichtlichen Verlangsamung kommt.

Das Projekt befasst sich außerdem mit Top-Expert-Dominating AI, kurz TED-AI. Es definiert TED-AI als KI, die bei praktisch allen Aufgaben besser ist als menschliche Spitzenexperten, und schätzt die Wahrscheinlichkeit auf 35 bis 65 Prozent, dass Systeme, die sämtliche Büroarbeit automatisieren können, vor 2028 verfügbar sein werden.

Mehrere Ansätze ergaben für SAR Schätzungen zwischen Ende 2027 und Mitte 2028. Dazu gehörten Extrapolationen auf Grundlage des Forschungsfortschritts, selbst gemeldeter Produktivitätssteigerungen durch Arbeit und der von Anthropic gemeldeten Automatisierungsgrade bei Aufgaben. Ajeya Cotras Spielzeugmodell prognostizierte SAR für Dezember 2027, während Tom Davidsons Spielzeugmodell SAR in einem Szenario mit einer ausschließlich auf Software basierenden Singularität irgendwann im Jahr 2027 ansetzte.

Das Modell sagt eine frühere Entwicklung voraus

Das AI Futures Project erklärt, sein gefiltertes AI Futures Model prognostiziere bei einer im November 2026 angenommenen, der KI zuzuschreibenden Beschleunigung um den Faktor 1,7 ein mittleres SAR-Datum im Februar 2027. Das Modell berücksichtigt die Auswirkungen der Automatisierung auf das Tempo des Fortschritts und kann dadurch über den SAR-Meilenstein hinaus prognostizieren.

Im Vergleich dazu lieferte eine einfache Extrapolation des Forschungsgeschmacks Schätzungen für Juli oder September 2027, je nachdem, ob die Unsicherheit der Parameter berücksichtigt wurde. Andere einfache Modelle prognostizierten SAR zwischen Ende 2027 und Mitte 2028. Das Projekt erklärt, das schnellere Ergebnis des gefilterten Modells spiegele sowohl ein höher angenommenes Niveau der Forschungsfähigkeiten als auch eine weiter fortgeschrittene Automatisierung wider.

Die Gruppe untersucht, warum ihr früheres AI Futures Model falsch lag. Mögliche Erklärungen sind, dass nahezu fortgeschrittene Programmierfähigkeiten für einen stärkeren Schub bei der KI-Forschung und -Entwicklung sorgen als erwartet, dass weitere Fähigkeiten wie die Datengenerierung zur Beschleunigung beitragen und dass das Modell den Zusammenhang zwischen dem Forschungsaufwand für KI und dem Fortschritt zu konservativ bewertet.

Das Projekt warnt vor der Entwicklung von KI

Das AI Futures Project argumentiert, ein SAR im Jahr 2027 würde eine „unglaublich dringende“ Pause oder deutliche Verlangsamung der Entwicklung von Frontier-KI erforderlich machen. Das ideale Ergebnis wäre nach Ansicht der Gruppe eine branchenweite Pause, gefolgt von einem internationalen Abkommen.

Das Projekt erklärt, die Unternehmen seien nicht auf eine Abstimmung mit einem SAR vorbereitet, und warnt, dass der Einsatz eines nicht ausgerichteten SAR zur rekursiven Selbstverbesserung zu einer „äußerst schlechten Lage“ führen könnte. Außerdem heißt es, China werde wahrscheinlich in der Lage sein, das Trainingsrezept und möglicherweise die Modellgewichte zu stehlen, falls SAR in naher Zukunft trainiert wird.

Für Nutzer und den breiteren KI-Markt bedeutet die Aktualisierung weder die Ankündigung einer Produkteinführung noch einen bestätigten Entwicklungszeitplan. Es handelt sich um eine Überarbeitung der Prognose, die hauptsächlich auf METRs Einschätzung zu Anthropic und den eigenen Modellen des AI Futures Project beruht. Die Schlussfolgerungen des Projekts gelten weiterhin unter der Voraussetzung, dass AGI-Projekte und Unternehmen ihr Tempo nicht verlangsamen. Die Autoren betonen zudem, dass ihre Analyse Modellierungsfehler enthalten kann.