Responsible AI Institute startet Labor zur Prüfung autonomer KI-Kontrollen
Das Responsible AI Institute hat das TrustX Assurance Lab gestartet, eine unabhängige und anbieterneutrale Umgebung zur Prüfung, ob autonome KI-Agenten innerhalb autorisierter Grenzen arbeiten. Das Labor erstellt Nachweise, die Entscheidungen über den Einsatz in Unternehmen, die Sicherheit und die Aufsicht unterstützen sollen.
- RAI hat das unabhängige, anbieterneutrale TrustX Assurance Lab gestartet.
- Der Prozess prüft KI-Workloads in sechs Prüfungsstufen.
- Bei einer Demonstration wurde ein von einem Mitarbeiter entwickelter Commerce-Agent über 12 Risikodimensionen hinweg bewertet.
- 8 der 12 Risikodimensionen sind derzeit zur Laufzeit beobachtbar.
- Tests innerhalb der Umgebungen von Mitgliedern sind für 2027 geplant.
Von KI-Richtlinien zu geprüften Kontrollen
RAI kündigte das Labor am 10. Nov. 2026 an, nachdem es dieses am 23. Oktober bei RAISE 2026 live vorgestellt hatte. Die Organisation erklärte, dass Unternehmen, die Systeme einsetzen, die Entscheidungen treffen, Tools aufrufen und Aktionen ausführen, mehr als schriftliche Richtlinien oder Modellbewertungen benötigen. Sie brauchen auch Nachweise dafür, dass Sicherheitskontrollen, Grenzen für delegierte Befugnisse, menschliche Freigaben und Eskalationsmechanismen wie vorgesehen funktionieren.
Das TrustX Assurance Lab bildet die Grundlage für die umfassendere Prüfungsarbeit von RAI, die die Erfassung, das Benchmarking und die unabhängige Verifizierung von KI umfasst. Der Prozess besteht aus sechs Stufen: den Workload identifizieren, seine Risiken klassifizieren, Kontrollen festlegen, das System testen, die Ergebnisse verifizieren und die Kontrollen durch Korrekturmaßnahmen und erneute Tests verbessern.
Laut RAI können die daraus hervorgehenden Nachweise Entscheidungen über die Freigabe des Einsatzes, Sicherheitsprüfungen, regulatorische Untersuchungen und die laufende Aufsicht unterstützen. Die Arbeit baut auf den Arbeitsgruppen TrustX Health und TrustX Finance von RAI auf, die Kontrollanforderungen und Erwartungen an Nachweise für regulierte Branchen entwickeln.
„Jahrelang hat sich die Branche darauf konzentriert, zu definieren, wie verantwortungsvolle KI aussehen sollte. Jetzt müssen wir beweisen, dass sie funktioniert“, sagte Matt Sanchez, Vice Chairman des Responsible AI Institute, in der Ankündigung.
Live-Test eines von einem Mitarbeiter entwickelten Commerce-Agenten
Bei RAISE 2026 bewertete RAI einen von einem Mitarbeiter entwickelten Commerce-Agenten mithilfe des Labors. Bei der Demonstration wurde der Workload anhand der Metadaten des Agenten über 12 Risikodimensionen hinweg klassifiziert. Dabei wurde eine Risikostufe vergeben und nur dann nachgefragt, wenn die Metadaten unvollständig waren.
In einer Proof-of-Concept-Integration mit dem OWASP Agent Control Standard lieferte ein Hook bei jedem Agentenschritt eine Entscheidung zum Erlauben, Ablehnen oder Nachfragen zurück. Eine Nachfragen-Entscheidung leitete die Aktion zur menschlichen Freigabe weiter. Jeder Schritt erzeugte außerdem einen signierten Telemetriedatensatz. Der Verifizierer prüfte die Integrität des Datensatzes, spielte die Entscheidungen erneut ab und verglich das angegebene Risiko des Agenten mit seinem beobachteten Verhalten, um eine Einstufung der Sicherheitslage und einen Nachweisbericht zu erstellen.
RAI erklärte, dass derzeit 8 der 12 Risikodimensionen zur Laufzeit beobachtbar sind. Außerdem demonstrierte die Organisation die Bewertung als Microsoft-Copilot-Plug-in und als Claude-Skill. Das Labor arbeitet derzeit mit synthetischen Daten und Anwendungsfällen von Mitgliedern. Tests innerhalb der Umgebungen von Mitgliedern sind für 2027 geplant.
Ein offenes Modell für die Beteiligung von Unternehmen
Das Labor verbindet offene Standards, unabhängige Forschung, Anwendungsfälle aus Unternehmen und Technologien für Kontrollen zur Laufzeit. RAI beteiligt sich an der Arbeitsgruppe zum OWASP Agent Control Standard. Forschende der University of Cambridge und des Imperial College London bringen Fachwissen zu Kontrollarchitekturen, Bewertungsmethoden und Messverfahren ein.
RAI definiert die Anforderungen an die unabhängige Prüfung und bewertet die Nachweise. Technologieanbieter demonstrieren und implementieren die geprüften Kontrollen. Für wiederholbare Tests stehen Modelle und unterstützende Technologien über NVIDIA und Hugging Face zur Verfügung. RAI erklärte, dass das Labor anbieterneutral und für weitere Anbieter offen bleiben soll.
NatWest, FactSet und Wellington Management sind der wachsenden Unternehmensmitgliedschaft von RAI beigetreten. RAI wählt derzeit eine begrenzte erste Gruppe für das Labor aus. Die teilnehmenden Organisationen werden ausgewählte KI-Workloads bewerten, das Verhalten zur Laufzeit testen und Nachweispakete für die interne Absicherung und unabhängige Verifizierung entwickeln. Unternehmen können über die TrustX-Website von RAI ihr Interesse bekunden.
