CDT und Koalition fordern NIST auf, auch entdeckungsorientierte KI-Evaluierung abzudecken

Was der Rahmen leistet

Das National Institute of Standards and Technology (NIST) hat den Entwurf eines Rahmenwerks veröffentlicht, das Organisationen strukturierte Orientierung dazu gibt, wie sich KI-Systeme testen, evaluieren, verifizieren und validieren (TEVV) lassen. Laut CDT soll er KI-Produkte ermöglichen, die besser zu ihrem Zweck passen, und ein wirksameres Risikomanagement durch Entwickler und Betreiber von KI unterstützen.

Nach Angaben des CDT lobt seine Stellungnahme die Bemühungen des NIST, bewährte Verfahren in diesem Bereich zu verbessern. Die Leitlinien böten aus Sicht des CDT einen hilfreichen, konkreten Rahmen und eine standardisierte Terminologie. Beteiligte könnten darauf aufbauen, eigene Verfahren zu entwickeln, um zu beurteilen, ob ein KI-System im vorgesehenen Einsatzkontext wirksam sein wird, und um Risiken und Auswirkungen zu erkennen, die Aufmerksamkeit verdienen. Solche Rahmenwerke, so das CDT, könnten zu KI-Systemen führen, die den Bedürfnissen von Verbraucherinnen und Verbrauchern besser gerecht werden, individuelle Rechte schützen und seltener unerwarteten Schaden verursachen.

Plädoyer für entdeckungsorientierte Evaluierung

Die zentrale Empfehlung lautet, dass das NIST sogenannte „entdeckungsorientierte“ Evaluierungen stärker berücksichtigt. Dabei misst eine Organisation nicht nur vorab bekannte, bestimmte Eigenschaften. Sie versucht zugleich zu verstehen, was überhaupt gemessen werden sollte.

Das CDT hält diesen Ansatz besonders für Allzweck-KI-Werkzeuge für wichtig, bei denen Evaluatoren häufig vorrangig unbekannte Risiken, Auswirkungen und Fehlermodi sichtbar machen wollen. Dafür empfehlen die Stellungnahmen dem NIST:

• die übernommene Definition von TEVV anzupassen;
• mehr Hinweise aufzunehmen, wie Anwender die zu messenden Konstrukte definieren können;
• Mechanismen für Verfeinerung und Feedback vorzusehen;
• ein Beispiel für entdeckungsorientierte Evaluierung in einem komplexeren Szenario zu ergänzen.

Rollen, Systemtypen und reale Einsatzbedingungen

Die Koalition bittet zudem um konkretere Hinweise, welche Akteure in den verschiedenen Entwicklungsphasen am besten eingreifen können. Das würde Organisationen helfen, den multidisziplinären Charakter eines TEVV-Athlon zu verstehen. Außerdem fordern die Stellungnahmen besondere Überlegungen für unterschiedliche Typen von KI-Systemen, als ein Beispiel werden agentische Anwendungen genannt.

Beim Realitätsbezug regen die Stellungnahmen an, dass das NIST stärker darauf eingeht, wie sich sicherstellen lässt, dass Testszenarien und -umgebungen reale KI-Anwendungen widerspiegeln. Die Behörde solle auch Einsatzumgebungen berücksichtigen, in denen KI-Systeme in anderen Sprachen und in multikulturellen Kontexten genutzt werden, und Methoden beschreiben, mit denen Evaluatoren die öffentliche Beteiligung erweitern können. Schließlich wollen die Gruppen, dass das NIST mehr domänenspezifische Ressourcen des NIST AI Metrology Center in seine Hinweise integriert, wie Evaluatoren vom Konzept zur Praxis gelangen.

Was das bedeutet

Der Rahmen ist weiterhin ein Entwurf, und die Stellungnahmen der Koalition fließen als Beitrag in das Verfahren des NIST ein, sie sind keine endgültigen Änderungen. Für Organisationen, die KI entwickeln oder einsetzen, zeigt der Austausch, in welche Richtung zivilgesellschaftliche Gruppen die Evaluierungsleitlinien lenken wollen: hin zum Aufspüren unvorhergesehener Probleme in Allzweck-Systemen und hin zu Tests, die verschiedene Sprachen, Kulturen und reale Nutzung abbilden.