Regierungen sollten dokumentieren, wenn politische Beratung auf KI beruht, fordert das Belfer Center

Von der Nutzung zur Abhängigkeit

Die Analyse beginnt mit den Vereinigten Arabischen Emiraten. Am 2. September nahm das Kabinett des Landes den Cabinet AI Advisor in Betrieb, ein System aus 32 spezialisierten KI-Beratern, das die Arbeit des Kabinetts unterstützen soll. Laut der vom Belfer Center zitierten offiziellen Mitteilung soll es Politikmaßnahmen und Gesetze analysieren, deren finanzielle, wirtschaftliche, soziale und ökologische Auswirkungen bewerten und Empfehlungen auf Grundlage eines genehmigten Bestands an Eingaben und Quellen vorlegen.

Seit 2025 haben die VAE weitere Schritte unternommen. Dazu zählen ein regulatorisches Intelligenz-Ökosystem, das Gesetze, Gerichtsurteile und öffentliche Dienstleistungen verknüpft, ein National Artificial Intelligence System zur Beratung des Ministerrats, das auf zwei Jahre angelegte Ziel, die Hälfte der Regierungssektoren, -dienste und -abläufe auf agentische KI umzustellen, sowie eine Artificial Intelligence and Data Authority, die direkt dem Kabinett unterstellt ist.

Der Autor argumentiert, solche Ankündigungen beschrieben, was KI leisten soll, ließen aber eine schwierigere Frage offen. In den Worten des Textes: „Bei der Nutzung geht es darum, ob KI eingesetzt wird. Bei der Abhängigkeit geht es darum, was ihre Analyse tragen darf.“

Ein breiteres Muster mit schwachen Kontrollen

Dem Text zufolge beschränkt sich der Trend nicht auf die Golfregion. Saudi-Arabiens Public Investment Fund hat 2025 HUMAIN gestartet, und Katar betreibt das Programm GovAI, um die KI-Einführung in staatlichen Einrichtungen zu beschleunigen.

Die OECD-Auswertung von 200 KI-Anwendungsfällen in Regierungen aus dem Jahr 2025 ergab, dass fast die Hälfte darauf abzielte, Entscheidungsfindung, Lagebeurteilung oder Prognosen zu verbessern. Rund 31 Prozent wollten die Produktivität bei analytischen Aufgaben steigern, nur 9 Prozent die Automatisierung alltäglicher Aufgaben.

Der Digital Government Outlook 2026 der OECD stellte fest, dass in 35 von 36 OECD-Ländern mit verfügbaren Daten KI in mindestens einem Bereich der Verwaltung eingesetzt wird. Nur 13 gaben an, sie zur Unterstützung der Politikgestaltung zu nutzen. Lediglich 14 Länder meldeten verpflichtende Risikobewertungen vor dem Einsatz, 11 führten nach eigenen Angaben Prüfungen nach dem Einsatz durch.

Bestehende Rahmenwerke, darunter ein Memorandum des US-amerikanischen Office of Management and Budget von 2025, Australiens ab Dezember 2025 geltende Richtlinie, Kanadas Algorithmic Impact Assessment und der britische Transparenzstandard, werden als ernstzunehmender Apparat beschrieben. Der Autor merkt jedoch an, dass sie Verantwortlichkeit meist an ein System, einen Anwendungsfall, ein Projekt oder eine operative Entscheidung knüpfen, nicht an die einzelne Aussage innerhalb einer Empfehlung. „Ein Nutzungsnachweis ist kein Abhängigkeitsnachweis“, heißt es in dem Text.

Das Beispiel Deloitte

Die Analyse verweist auf einen Deloitte-Bericht von 2025 für das australische Department of Employment and Workplace Relations, der die Einhaltung von Sozialleistungsregeln untersuchte. Er enthielt fehlerhafte Quellenangaben, darunter ein erfundenes Zitat aus einem Urteil des Federal Court. Eine überarbeitete Fassung legte den Einsatz generativer KI offen, und Deloitte erklärte sich bereit, die letzte Rate seines Auftrags über 440.000 australische Dollar zurückzuzahlen.

Das Ministerium betonte, Inhalt und Empfehlungen des Berichts seien unverändert. Veröffentlichte Korrespondenz zeigt, dass der KI-Einsatz für technische Code-Analysen genehmigt worden war, Beamte später aber Klarstellung zu Werkzeugen verlangten, die für andere Aufgaben genutzt wurden, etwa zur Zusammenfassung von Gerichtsverfahren und zur Erstellung von Quellenangaben. Der Autor hält fest, dass dies nicht belege, welchen Beitrag das strittige Material zu den Ergebnissen leistete. Der Fall zeige den Unterschied zwischen einer nachträglichen Rekonstruktion des KI-Beitrags nach Bekanntwerden von Fehlern und seiner Dokumentation zum Zeitpunkt der Entstehung.

Was der vorgeschlagene Nachweis enthalten würde

Der Autor empfiehlt, dass Regierungen einen Abhängigkeitsnachweis führen, wenn eine politische Aussage wesentlich von KI-gestützter Analyse abhängt, und dafür nach Möglichkeit bestehende Prüfverfahren nutzen. Jeder Prompt müsse nicht protokolliert werden. Der Nachweis sollte jedoch festhalten:

• die Aussage, zu deren Begründung der KI-gestützte Beitrag beitrug
• die Rolle, die Beamte ihm zugestanden haben
• die zugrunde liegenden Belege und Quellen
• die durchgeführten Prüfungen
• wer ihn hinterfragen oder verwerfen konnte
• die Amtsperson, die die Stützung darauf genehmigt hat

Gibt die KI direkt Empfehlungen, sollte der Nachweis wesentliche Eingaben und Ausgaben erfassen, mit einer namentlich benannten Amtsperson, die für Prüfung und Freigabe der Abhängigkeit verantwortlich ist. Außerdem schlägt der Text einen Entfernungstest vor: Würde die Aussage in derselben Form Bestand haben, wenn der KI-Beitrag entfernt würde, und würde sich die Empfehlung ändern?

Der Aufwand solle verhältnismäßig bleiben. Sprachliche Glättung oder Büroarbeiten mit geringen Folgen bräuchten womöglich wenig Absicherung, während die Zusammenfassung von Konsultationen, die Schätzung fiskalischer Effekte, das Ranking von Alternativen oder die Unterstützung von Kabinettsberatung mehr erforderten. Der Autor nennt das „einen kleinen Entscheidungsnachweis, keine weitere breite KI-Bürokratie“.

Was das für Regierungen bedeutet

Die Analyse verknüpft die Idee mit dem Thema Souveränität. Regierungen, die in souveräne KI investieren, bleiben von globalen Chips, Clouds, Anbietern, Modellen und Standards abhängig. Souveränität könne daher nicht nur bedeuten, jede Ebene des Technologie-Stacks zu besitzen, argumentiert der Autor. In der politischen Beratung müsse sie auch institutionelle Kontrolle über das Urteil umfassen, einschließlich des Wissens, wann ein KI-System eine politische Aussage mitgeprägt hat.

Für Verwaltungen, die KI-Berater einführen, lautet die praktische Botschaft: Die formale menschliche Entscheidungsgewalt mag unangetastet bleiben, während sich die Evidenz in Systeme verlagert, die vorsortieren, zusammenfassen und gewichten, was Beamte zu sehen bekommen. Wer die Abhängigkeit auf der Ebene einzelner Aussagen dokumentiere, so der Autor, könne belegen, wie eine Empfehlung entstanden ist, bevor Fehler zur Rekonstruktion zwingen.