Sicherheitsexperten fordern nach Umfrage mehr Forschung zur Bewertung von KI

Eine Umfrage unter Praktikern der nationalen Sicherheit

Das Institute for Security and Technology hat mit Unterstützung des Future of Life Institute (FLI) nach eigenen Angaben die erste Umfrage ihrer Art veröffentlicht, die erfasst, wie Fachleute der nationalen Sicherheit die Folgen künstlicher Intelligenz einschätzen. Mehr als 100 Befragte, von ehemaligen Staatssekretären bis zu pensionierten Generalen und Admiralen, äußerten sich zu den Auswirkungen leistungsstarker neuer KI-Modelle auf militärische Fähigkeiten und Entscheidungsprozesse, auf die Cybersicherheit und auf Massenvernichtungswaffen.

Laut IST brachte die Umfrage „AI and the Future of National Security“ 58 Erkenntnisse hervor, davon 31 quantitative und 27 qualitative. Zur Veröffentlichung versammelte das IST am 18. September 24 Experten aus Industrie, Regierung, Denkfabriken und Forschung. Die Diskussion fand unter der Chatham House Rule statt.

Die Schlagzeilenzahl von 61 Prozent überraschte die Runde im Allgemeinen nicht, einige Teilnehmer hatten sogar einen noch höheren Wert erwartet. Weniger Einigkeit gab es darüber, wie Regierung, Industrie und Forschung die Bedürfnisse der jeweils anderen erfüllen können, um aus den Ergebnissen Konsequenzen zu ziehen.

Evaluierung, Zugang und Biologie

Die Umfrageergebnisse zeigten, dass die Evaluierung von KI-Modellen die Maßnahme ist, der Experten am meisten vertrauen, vor technischen Schutzvorkehrungen, operativer Governance und internationaler Koordinierung. Die Teilnehmer teilten diese Ansicht und konzentrierten sich darauf, was Evaluierung wirksam machen würde.

Als zentrales Hindernis für unabhängige Evaluierungen erwies sich der Zugang. Einige Teilnehmer forderten Modellentwickler auf, Prüfern Zugriff auf ihre Gewichte und die vollständige Gedankenkette (Chain of Thought) zu gewähren und dabei Datenschutzbedenken zurückzustellen. Andere erklärten, die Weitergabe der Gedankenkette an Institutionen wie das Militär berge eigene Sicherheits- und Datenschutzrisiken, und fragten, was eine angemessene Forderung an die Unternehmen wäre. Einige regten eine Regelung für vertrauenswürdigen Zugang an.

Die Teilnehmer verlangten zudem mehr Mittel und Kapazitäten für die Evaluierungsforschung und für Standards sowie breite Unterstützung für Red Teaming statt allein für Fähigkeitsprüfungen. Zu den Vorschlägen gehörten:

• verpflichtende fähigkeitsbasierte Evaluierung
• Autorisierung und Finanzierung des Center for AI Standards and Innovation (CAISI)
• eine Selbstregulierungsorganisation, die Benchmarks für den Einsatz von KI durch die Regierung festlegt

Besondere Sorge löste die Biologie aus. Einem Experten zufolge bewerten die meisten KI-Sicherheitsevaluierungen heute nur große Sprachmodelle, während es für biologische Modelle keine angemessenen Evaluierungen gebe. Das größte Risiko sahen die Teilnehmer in einem biologischen Modell, das in eine Testumgebung (Harness) eingebunden ist. Sie wiesen außerdem auf Open-Weight-Modelle als zunehmend wichtiges Feld hin und merkten an, dass derzeit nichts jemanden daran hindere, ein Experiment durchzuführen, das KI und Biologie verbindet.

Unterschiedliche Taktgeber und eine Lücke bei den Fachkräften

Die Teilnehmer sagten, Militär, Regierung und KI-Entwickler arbeiteten mit unterschiedlichen Zeithorizonten. Das Militär habe sich historisch auf unmittelbare statt auf existenzielle Bedrohungen konzentriert, die Entwickler von Frontier-KI jagten künftigen Fähigkeiten hinterher, und die Regierung laufe hinterher. Mehrere forderten, die Debatte an dem auszurichten, was heute im Einsatz ist, und sich auf Maßnahmen zu konzentrieren, die sich jetzt umsetzen lassen. Ein Teilnehmer argumentierte, Regulierung dürfe Innovation nicht so stark bremsen, dass kleine KI-Unternehmen keine Aufträge des Verteidigungsministeriums (DoD) gewinnen können.

In der Umfrage nannten 32 Prozent der Befragten Fachwissen und Ausbildung der Beschäftigten als eine der größten Lücken bei der Vorbereitung auf die Integration von KI und bei der Abwehr von KI-Bedrohungen. Die Runde verwies auf Lücken beim technischen Know-how im Militär und im Außenministerium sowie auf mehr Bildungsbedarf bei politischen Entscheidungsträgern. Manche sahen Verzögerungen bei Einstellungen und Ressourcenkürzungen durch Bürokratie als Kern des Problems, andere nannten mangelndes Interesse am Staatsdienst und die schwierige Rückkehr nach einer Tätigkeit in der Privatwirtschaft.

Was das bedeutet

Die Experten einigten sich auf drei Handlungsfelder: eine drastische Aufstockung der Investitionen in die Evaluierungsforschung, insbesondere über Tests in silico hinaus; Forschung unter Leitung von Naturwissenschaftlern, nicht nur von Technologen, dazu, wie sich KI-Risiken auf die physische Welt auswirken; und technisch versierte Fachkräfte in den Bereichen mit dem größten Risiko für die nationale Sicherheit.

„Der Sinn, alle in einem Raum zusammenzubringen, war es, vom Messen des Problems dazu überzugehen, wie sich das Problem lösen lässt“, sagte Philip Reiner vom IST. Die Ergebnisse richten sich laut IST an die Gemeinschaft der nationalen Sicherheit, Forscher, US-Politiker und Frontier-KI-Unternehmen; die Bereiche von Konsens und Dissens zeigten, wo es Rückenwind gibt und wo Fragen offen bleiben.