Brookings: Trumps „moralisch bindendes“ KI-Abkommen überlässt die Kontrolle den Unternehmen selbst

Was das Abkommen vorsieht

Laut dem Brookings-Beitrag lud Präsident Donald Trump am 29. September zu einer Veranstaltung ins Weiße Haus, bei der er und die Chefs von einem halben Dutzend KI-Firmen das White House Accord on Super Intelligence unterzeichneten. Als Unterzeichner werden genannt: Sundar Pichai von Google, Dario Amodei von Anthropic, Mark Zuckerberg von Meta, Greg Brockman von OpenAI, Elon Musk von xAI und Jensen Huang von Nvidia.

Der Veranstaltung ging eine Executive Order voraus, die Bundesbehörden verpflichtet, den Begriff „artificial intelligence“ zugunsten von „super intelligence“ aufzugeben. Der Autor merkt an, dass diese Anordnung in der gesamten Regierung durchsetzbar sei, das Abkommen dagegen nach den Worten des Präsidenten nur „moralisch bindend“. Trump bezeichnete es als „eine Form des Schutzes“ und sagte, die Unternehmen hätten sich zu „enormer Selbstkontrolle“ bereit erklärt.

Das Abkommen besteht aus vier Teilen. Die Unternehmen sagen zu, interne Kontrollen zur Überwachung von Fähigkeiten und Alignment ihrer Modelle einzuführen, ein internes Team mit der Prüfung dieser Kontrollen zu betrauen, mit einem unabhängigen externen Prüfer zusammenzuarbeiten und einen unabhängigen Ausschuss des Verwaltungsrats mit der Aufsicht über den Prozess zu beauftragen.

Das Argument gegen Selbstkontrolle

Wheeler beschreibt die Zusagen als „reich an Rhetorik, aber arm an durchsetzbaren Verpflichtungen“. Nach seiner Lesart entwerfen die Unternehmen ihre Kontrollen selbst, wählen die Prüfer aus und entscheiden, ob Verfahren eingehalten werden. Damit seien sie Spieler und Schiedsrichter zugleich.

Er verweist auf offene Fragen, die das Abkommen nicht beantwortet: wem die Prüfer berichten, wer sie bezahlt und ob sie eingreifen können, um schädliche Praktiken zu stoppen, die sie entdecken. Auch müssten die Ergebnisse der Prüfer weder veröffentlicht noch einer zuständigen Behörde im öffentlichen Interesse übergeben werden. Er vergleicht das mit einem Brückenbauer, der seine eigenen Sicherheitsstandards festlegt und seine Arbeit selbst beurteilt.

Der Autor führt zudem die Unterlagen an, die Anthropic vor einem Börsengang bei der Securities and Exchange Commission eingereicht hat und die Reuters nach eigenen Angaben am Tag vor der Veranstaltung einsehen konnte. Laut dem Beitrag widmet die Einreichung den KI-Risiken fast doppelt so viele Seiten wie dem Geschäft selbst und enthält den Satz: „Potential model awareness of our evaluation efforts creates a significant limitation on our ability to assess model safety.“ Wenn Modelle erkennen könnten, dass sie getestet werden, und ihr Verhalten anpassten, genüge Überwachung allein nicht, argumentiert Wheeler. Wirksame Aufsicht müsse die Veröffentlichung von Testergebnissen und Störfallberichten sowie die Befugnis vorsehen, eine Markteinführung zu stoppen.

Eine Bilanz gebrochener und geänderter Versprechen

Der Kommentar nennt anhand früherer Fälle drei Schwächen freiwilliger Selbstverpflichtungen. Die erste ist, dass sie nicht eingehalten werden. 2011 erhob die Federal Trade Commission Vorwürfe gegen Facebook wegen dessen Aussagen zum Datenschutz, woraufhin sich das Unternehmen zu einem Datenschutzprogramm und Prüfungen durch Dritte verpflichtete. 2019 stellte die FTC fest, dass die Zusage nicht eingehalten worden war, und verhängte eine Rekordstrafe von 5 Milliarden Dollar. Google einigte sich 2011 mit der FTC wegen ähnlicher Vorwürfe und musste im Jahr darauf 22,5 Millionen Dollar zahlen, weil es gegen die Auflage verstoßen hatte.

Die zweite ist die Umdeutung. Google gab sich 2018 KI-Grundsätze, nach denen das Unternehmen KI weder für Waffen noch für Überwachung einsetzen wollte, die gegen international anerkannte Normen verstößt; 2025 wurden die Grundsätze ohne diese Verbote neu gefasst. Im Januar 2024 strich OpenAI sein generelles Verbot von „military and warfare“-Anwendungen, behielt aber das Verbot der Waffenentwicklung bei. YouTube kehrte im Juni 2023 eine Richtlinie zu falschen Behauptungen über Wahlen um.

Die dritte ist die Aufgabe. Twitter richtete 2016 einen Trust & Safety Council ein, der nach der Übernahme durch Elon Musk abgeschafft wurde.

FTC-Untersuchung und Folgen

Am Tag nach der Unterzeichnung wurde eine Untersuchung der FTC bekannt, die prüft, ob OpenAI, Anthropic und andere nicht genannte Unternehmen unlautere und irreführende Praktiken angewandt haben. Im Mittelpunkt stehen Berichten zufolge Schäden für Verbraucher durch außer Kontrolle geratene KI-Agenten. Wheeler hält es für fraglich, ob das Abkommen einen solchen Vorwurf stützen könnte, da die Zusagen offenbar gegenüber Trump, einem Mitunterzeichner, und nicht gegenüber den Nutzern abgegeben wurden. Das vor Gericht zu klären, wäre langwierig und ungewiss, schreibt er.

Sein Fazit: Den sechs Chefs gebühre Anerkennung dafür, dass sie die Gefahren dessen erkennen, was sie bauen. Doch wenn die Unternehmen Umfang und Reichweite der Aufsicht selbst bestimmten, sei das Abkommen „weit davon entfernt, ausreichend zu sein“. Mit Verweis auf James Madison in Federalist No. 10 argumentiert er, die Öffentlichkeit dürfe nicht auf das Wohlwollen derer angewiesen sein, deren kommerzielle Interessen dem breiteren öffentlichen Interesse zuwiderlaufen können.