Brookings: KI-Agenten brauchen eine Kontrolle, die laufend und im selben Tempo handelt

Rasche Fortschritte bei Leistungsfähigkeit und Marktgröße

Der Beitrag von Landry Signé vom Center for Technology Innovation der Brookings Institution verweist auf eine starke Beschleunigung bei Agenten in den vergangenen zwei Jahren. Im Jahr 2025 steigerten Agenten ihre Genauigkeit bei Computeraufgaben von 12 auf 66,3 Prozent und liegen damit nur noch 6 Punkte unter dem durchschnittlichen menschlichen Vergleichswert.

Zur Marktgröße zitiert der Beitrag Precedence Research, die ein Wachstum von 8 Milliarden US-Dollar im Jahr 2025 auf 199 Milliarden US-Dollar bis 2034 schätzen. Dem Autor zufolge deutet dieses Tempo darauf hin, dass die bestehenden Governance-Modelle für KI generell nicht ausreichen könnten.

Der Text stützt sich auf eine Podiumsdiskussion des Weltwirtschaftsforums im Mai 2026 auf der AI+Expo in Washington, D.C. Ein zentrales Thema dort: Risikobasierte Ansätze, Governance über den gesamten Lebenszyklus, Rechenschaftspflicht, Sicherheit und menschliche Aufsicht bleiben relevant, müssen aber deutlich operativer werden, da Systeme schneller und mit weniger direktem menschlichem Eingreifen handeln.

Wo Agenten bereits im Einsatz sind

Brookings nennt Anwendungen in den Bereichen Produktivität, öffentliche Dienstleistungen, Bildung, Gesundheitswesen, Übersetzung, Barrierefreiheit, Wachstum kleiner und mittlerer Unternehmen sowie Entwicklungsziele, sowohl im globalen Norden als auch im globalen Süden. Agenten verkürzen bereits die Forschungszeiten von Pharmaunternehmen, optimieren Lieferketten für Industriegüter und senken die Kosten im Kundenservice.

In der Fertigung sind Agenten inzwischen dazu übergegangen, nicht mehr nur einen Defekt zu melden, sondern die Systeme zu analysieren, die wahrscheinliche Ursache zu finden und die fehlerhafte Einheit auszusortieren. Laut dem Beitrag benötigen diese Agenten weder große Modelle noch die neuesten Chips, wodurch sie für Länder mit niedrigerem Einkommen leichter zugänglich sind als umfassende digitale Transformationen.

Eine Studie des Weltwirtschaftsforums zu 70 Kernfunktionen von Regierungen stufte öffentliche Dienstleistungen als eines der Felder mit der höchsten Eignung für Agenten ein. Sie warnte zugleich, informationsgetriebene Aufgaben sollten vor urteilsbasierten wie der Prüfung von Anspruchsvoraussetzungen kommen, bei denen Agenten sensible Entscheidungen über Einzelpersonen beeinflussen würden. Die US-Gesundheitsbehörde Centers for Disease Control and Prevention beziffert die Rendite ihres behördenweiten KI-Chatbots auf 527 Prozent.

Der Autor schränkt ein: Belegter Nutzen im Echtbetrieb stamme überwiegend noch aus der Zeit vor Agenten, die Governance-Frage stelle sich also vor den Einsätzen, die sie auf die Probe stellen werden. Die Nutzung werde von Wissensarbeitern in Ländern mit höherem BIP dominiert, und der Einsatz in Unternehmen hinke der Verbrauchernutzung hinterher.

Warum Autonomie das Risikobild verändert

Agenten verbinden Autonomie mit Befugnissen, Berechtigungen und Zugriffsrechten, die es ihnen erlauben, innerhalb definierter Grenzen zu handeln. Die bestehende Governance beruht auf klar getrennten Phasen, von der Modellentwicklung über Beschaffung und Einsatz bis zur Prüfung der Ergebnisse. Agenten verwischen diese Grenzen, weil sie Modelle mit Gedächtnis, Orchestrierung, Werkzeugen und Zugang zu externen Systemen kombinieren.

Der Beitrag stellt sie klassischen Chatbots gegenüber, deren Antworten Menschen prüfen können, bevor etwas geschieht. Agenten können dagegen konstruktionsbedingt ein anderes System oder eine Aktion auslösen, bevor ein Mensch eingreift. Als Risiken nennt der Text unter anderem fehlausgerichtete Ziele, Verhaltensdrift, Missbrauch von Werkzeugen und Koordinationsversagen. In diesem Sinne ähnelten Agenten zunehmend delegierten Entscheidungsträgern und bräuchten eine deutlich strengere Aufsicht.

Auch ein ordnungsgemäß autorisierter Agent kann scheitern, etwa indem er eine Aufgabe missversteht oder sich nach einem unerwarteten Ereignis nicht wieder fängt. Ein Modell kann beim Abrufen von Informationen ein geringes Risiko darstellen, beim Ändern von Datensätzen, beim Kommunizieren oder beim Auslösen von Transaktionen jedoch ein höheres.

Vorgeschlagene Instrumente und offene Probleme

Brookings empfiehlt, mindestens fünf zusammenwirkende Faktoren zu bewerten: Fähigkeit, Befugnis, Architektur, Kontext und Folgen. Hervorgehoben wird das vom Weltwirtschaftsforum entwickelte Agent Capability and Authorization Profile. Agent Cards dokumentieren, was ein Agent kann, während das Profil festhält, wozu er autorisiert wurde, und so Umfang, Berechtigungen, Kontrollen, Evaluierungsnachweise, Überwachung und Verantwortlichkeit für einen konkreten Einsatz explizit macht. Diese Aufzeichnungen sollten laut Beitrag die technische Evaluierung des Gesamtsystems ergänzen, nicht ersetzen.

Sicherheit ist ein zentrales Anliegen. Prompt Injection gilt als die häufigste Angriffstechnik, und weil Agentenarchitekturen alle Eingaben als einheitliche Token-Folge behandeln, lässt sich schwer erkennen, welcher Teil manipuliert wurde. Das schränkt Nachvollziehbarkeit und Überprüfbarkeit ein. Auch die Daten, mit denen Agenten betrieben werden, könnten abfließen.

Neue Protokolle wie das Model Context Protocol und das Agent-to-Agent-Protokoll ermöglichen es Agenten, plattformübergreifend zu interagieren, ohne dass diese integriert werden müssen. Das verspricht Produktivitätsgewinne, erfordert nach Ansicht des Autors aber eine bewusstere Governance, da Angriffe mit größerem Zugriff auf vernetzte Systeme mehr Schaden anrichten könnten. Der Beitrag weist zudem auf Lücken bei der Rechenschaftspflicht zwischen Entwicklern, Betreibern, Nutzern und betroffenen Gemeinschaften hin.

Was das bedeutet

Für Organisationen und politische Entscheidungsträger lautet die Kernbotschaft: Phasenbasierte Prüfungen, die an Design, Beschaffung oder Einsatz geknüpft sind, werden nicht ausreichen, wenn der Einsatz sich dezentralisiert und die Autonomie wächst. Weil jeder Schritt in der Handlungskette eines Agenten neue Risiken anhäuft, müsse Governance laut Brookings kontinuierlich und mit hoher Geschwindigkeit wirken. Der hier vorliegende Quelltext bricht mitten in der Diskussion über die Chancen kleinerer, mehrsprachiger, offener oder wiederverwendbarer Modelle ab, die laut Beitrag Übersetzung und Barrierefreiheit mit deutlich weniger Rechenleistung unterstützen können.