AI Now Institute stellt die Richtung der KI-Sicherheitsdebatte infrage

Ein Streit darüber, was KI-Sicherheit bedeutet

Der Artikel argumentiert, dass Vergleiche zwischen künstlicher Intelligenz und Nukleartechnologie für Verwirrung darüber gesorgt haben, wie KI-Risiken bewältigt werden sollten. Das Institut bezeichnet diese Vergleiche als frustrierend, weil diejenigen, die sie ziehen, zugleich bestreiten würden, dass standardisierte Verfahren zur Risikobewertung ausreichen können, um KI zu kontrollieren.

Nach Angaben des AI Now Institute wurden Methoden zur Risikobewertung teilweise durch Arbeiten entwickelt, die mit dem Manhattan-Projekt verbunden waren. Wissenschaftler, die sich mit möglichen Schäden befassten, entwickelten strenge Standards für Systeme, die menschliches Leben, die Umwelt, finanzielle Vermögenswerte und Vermögenswerte der nationalen Sicherheit beeinträchtigen konnten.

Die Frage, wie sicher sicher genug ist

Das Institut bezeichnet „Wie sicher ist sicher genug?“ als zentrale Frage des Sicherheitsingenieurwesens. Es beschreibt diese Frage als demokratisch, weil es darum geht, welches Risiko die Gesellschaft zu akzeptieren bereit ist, statt die Entscheidung allein technischen Fachleuten oder privaten Unternehmen zu überlassen.

Nach Darstellung des Artikels beruht die etablierte Sicherheitsarbeit auf Methoden zur Bewertung möglicher Schäden und zur Festlegung von Grenzwerten. Nach Ansicht des Instituts bietet dieser Ansatz eine Möglichkeit, über KI-Sicherheit anhand überprüfbarer Standards und Entscheidungen zu diskutieren, statt sich auf weitreichende Behauptungen über hypothetische Gefahren in der Zukunft zu stützen.

Kritik an großen KI-Laboren

Das AI Now Institute erklärt, große KI-Labore würden „diese Sicherheitsschwellen durch die Vereinnahmung von Begriffen neu verhandeln“. Dies geschehe unter dem Vorwand, dass sich KI-Sicherheit stattdessen auf das konzentrieren sollte, was das Institut als „unbelegte, unwissenschaftliche und hypothetische Sorge“ bezeichnet.

Das Institut kritisiert außerdem KI-Ingenieure, die nach seinen Worten behaupten, sie dürften bestimmen, was KI-Sicherheit ist und wo ihre Schwellenwerte liegen sollten. Den daraus entstehenden Streit beschreibt es als „religiöse Auseinandersetzung“ und erklärt, er sei „sehr undemokratisch“.

Was das Argument für die KI-Governance bedeutet

Die Botschaft des Artikels lautet, dass KI-Sicherheit als öffentliche Entscheidung über akzeptable Schäden behandelt werden sollte, unterstützt durch eine strenge Risikobewertung. Damit würden Fragen zu Sicherheitsschwellen in eine breitere demokratische Debatte verlagert, anstatt großen KI-Laboren oder Ingenieuren zu erlauben, diese Grenzen allein festzulegen.

Das AI Now Institute veröffentlichte diese Argumentation als Teil eines Artikels mit dem Titel „The AI Safety Debate Has Lost the Plot. We Asked 10 Experts What the Real Nightmares Are“, datiert auf den 10. November 2026. Das Institut verweist für die umfassendere Diskussion auf den vollständigen Artikel.