AI Now Institute: Doomerismus ist Science-Fiction, die den KI-Konzernen nützt
Das AI Now Institute argumentiert, dass die Furcht vor einem Aussterben der Menschheit durch KI auf keiner wissenschaftlichen Arbeit beruht und am Ende den größten KI-Konzernen dient. In einem auf seiner Website veröffentlichten Beitrag nennt der Senior Research Scientist Boyan Milanov die Behauptungen "Science-Fiction".
- Das AI Now Institute sagt, es gebe keinen klaren Weg von heutigen KI-Systemen zur Superintelligenz.
- Senior Research Scientist Boyan Milanov nennt KI-Doomerismus "Science-Fiction", die wissenschaftlich weder überprüfbar noch widerlegbar sei.
- Laut dem Artikel behaupten Führungskräfte von Unternehmen wie Anthropic und OpenAI, nur ihre Organisationen könnten KI verantwortungsvoll entwickeln.
- Milanov beschreibt das als Selbstregulierung statt als Prüfung durch unabhängige Stellen, die im öffentlichen Interesse handeln.
Kein klarer Weg zur Superintelligenz
Das zentrale Argument des Beitrags lautet, dass es keinen klaren Weg gibt, der zeigt, dass heutige KI-Systeme zu einer Superintelligenz führen werden. Dem Artikel zufolge fehlt zudem jede Grundlage, um die Wahrscheinlichkeit eines Untergangs zu berechnen, eine Zahl, die in Debatten über die langfristigen Risiken fortgeschrittener KI häufig genannt wird.
Der Artikel merkt an, dass die der Superintelligenz zugeschriebene Macht manche in diesen Kreisen dazu gebracht habe, fortgeschrittene KI in gottähnlichen Begriffen zu beschreiben. Milanov, Senior Research Scientist am AI Now Institute, formuliert es deutlicher: "Sie glauben an das Kommen einer allmächtigen KI-Gottheit, die entweder zur Vernichtung der Menschheit führen oder uns helfen wird, eine Utopie zu erreichen."
"Science-Fiction", keine Wissenschaft
Milanov weist die Vorstellung zurück, der Doomerismus habe ein Forschungsfundament. "Wir müssen uns vor Augen halten, dass dieser ganze Doomerismus auf keiner wissenschaftlichen Arbeit beruht", sagt er. "Es ist wirklich Science-Fiction. Keine der Behauptungen ist wissenschaftlich überprüfbar oder widerlegbar."
Die Unterscheidung ist wichtig, weil sich Behauptungen, die sich nicht testen lassen, auch von externen Forschenden oder Aufsichtsbehörden nicht überprüfen lassen. Darauf baut der Artikel auf, wenn er sich den Unternehmen selbst zuwendet.
Selbstregulierung und wer profitiert
Dem Artikel zufolge deuten die Chefs großer KI-Unternehmen wie Anthropic und OpenAI jeweils an, dass nur ihre eigene Organisation diese Systeme verantwortungsvoll bauen könne, und zwar mit Leitplanken, über die die Unternehmen selbst entscheiden.
Laut Milanov läuft dieser Ansatz auf Selbstregulierung hinaus. Die Unternehmen würden ihre eigenen Standards und Verfahren festlegen, statt von unabhängigen Stellen geprüft zu werden, die im Interesse der Öffentlichkeit arbeiten.
Er bezieht die Kritik auf einen konkreten Fall. "Wenn man zwischen den Zeilen liest, würde alles, wofür er sich einsetzt, Unternehmen wie Anthropic helfen", sagt er. Der veröffentlichte Auszug nennt die Person, auf die sich Milanov bezieht, nicht.
Was das bedeutet
Der Beitrag stellt das Untergangsnarrativ als mehr dar als einen wissenschaftlichen Meinungsstreit. Aus Sicht des AI Now Institute kann diese Darstellung das Argument stärken, führende Entwickler ihre eigenen Sicherheitsregeln definieren zu lassen, statt sie unabhängigen Prüfungen zu unterwerfen. Der auf der Website des Instituts veröffentlichte Auszug ist kurz und verweist für die vollständige Argumentation auf den ganzen Artikel.
AI Now Institute: How the bad science of AI doomerism is good for big business
