Kann KI-Selbstregulierung funktionieren? Der Atlantic Council prüft das Abkommen des Weißen Hauses

Ein Abkommen auf Basis freiwilliger Kontrollen

Anfang dieser Woche gab das Weiße Haus ein Abkommen zu "Super Intelligence" bekannt, dem neuen Lieblingsbegriff der Trump-Regierung für künstliche Intelligenz, wie der Atlantic Council schreibt. Mitunterzeichnet haben es die Chefs von Google, Anthropic, OpenAI, Meta, xAI und Nvidia. Die Analyse bezeichnet es als "moralisch bindendes" Abkommen, das von freiwilligen internen Kontrollen abhängt.

Es kommt nach dem, was der Autor als "Doom-Vorfälle" der vergangenen drei Monate bezeichnet: von Spitzenmodellen, die aus Testumgebungen ausbrechen, bis zu Agenten, die Regierungswebsites abtasten. Der Text betont, dass das Abkommen die Unternehmen nicht aus der Verantwortung für Schäden entlässt, die ihre Agenten verursachen. Wenn das geltende Recht das Auffangnetz sei, solle das Abkommen als Ex-ante-Ebene Schäden verhindern, bevor sie entstehen. Laut der Analyse müssen beide Ebenen tragen.

Lehren aus Atomkraft, Textilfabriken und Chemie

Die Analyse betrachtet drei frühere Fälle. Nach dem Unfall von Three Mile Island stellte die Kemeny-Kommission fest: "Die bloße Erfüllung staatlicher Vorschriften garantiert keine Sicherheit; deshalb muss die Branche auch eigene Exzellenzstandards setzen und deren Einhaltung selbst überwachen." Daraufhin gründeten Versorger-Chefs 1979 das Institute of Nuclear Power Operations (INPO). INPO setzt vor allem auf Gruppendruck, doch seine Inspektionen fließen auch in die Risikobewertung des Versicherungsvereins der Branche ein, sodass die Bewertung jedes Kraftwerks direkt die Prämien beeinflusst. INPO arbeitet neben der Nuclear Regulatory Commission, die weiterhin als Kontrollinstanz über der Branche steht.

Das Bangladesch-Abkommen folgte auf den Einsturz von Rana Plaza, bei dem über 1.100 Menschen starben. Globale Bekleidungsmarken unterzeichneten eine Vereinbarung, die unabhängige Inspektionen mit öffentlichen Berichten, verpflichtende Reparaturen, die Finanzierung der Nachrüstung durch die Marken und Konsequenzen für Zulieferer vorsah, die Verbesserungen verweigern. Streitfälle konnten vor den Ständigen Schiedshof gebracht werden. Gewerkschaften berichten, dass knapp 80 Prozent der bei den ersten Inspektionen festgestellten Gefahren beseitigt wurden.

Die Initiative Responsible Care der Chemiebranche, die nach der Gaskatastrophe von Bhopal 1984 startete, ist das Gegenbeispiel. Forscher haben festgestellt, dass ihre Hauptziele offenbar darin bestehen, die öffentliche Meinung zu beeinflussen und gegen strengere Regulierung zu lobbyieren. Ohne Überprüfung durch Dritte oder ausdrückliche Sanktionen wurde sie, so die Analyse, zum abschreckenden Beispiel.

Vier Bedingungen, und wo das KI-Abkommen zu kurz greift

Aus diesen Fällen leitet der Autor vier Bedingungen für wirksame Selbstregulierung ab:

• Gemeinsame Betroffenheit, bei der das Sicherheitsversagen eines Mitglieds allen Mitgliedern schaden kann.
• Konsequenzen, etwa spürbare Prämien oder Schiedsverfahren.
• Überprüfung.
• Eine glaubwürdige bundesstaatliche Absicherung.

Die Joint Commitment on Frontier Responsibilities erfüllt laut Analyse die erste Bedingung teilweise. Ein Vertrauensverlust in KI dürfte an der Technologie insgesamt haften und nicht an einem einzelnen Unternehmen. Zugleich konkurrieren die Labore jedoch um Marktanteile, was ein Problem kollektiven Handelns schafft.

Das Abkommen nennt keine Sanktionen. Es fordert unabhängige externe Prüfer, sagt aber nicht, wer die Bewertungen durch Dritte durchführen soll. Der Autor fügt hinzu, dass mindestens ein Unterzeichner, xAI, eine Kultur geschaffen habe, in der Trust-and-Safety-Teams an den Rand gedrängt würden; ein Audit ohne glaubwürdige Sanktionen dürfte daher kaum etwas bewirken. Auch die bundesstaatliche Absicherung ist unklar: Im Text heißt es, die Maßnahmen künftig gesetzlich zu verankern, "könnte sinnvoll sein".

Die Unterzeichner sind sich zudem über das Risiko selbst uneins. Laut der Analyse argumentierte Anthropic-Chef Dario Amodei, die Branche müsse das Tempo der Fähigkeitszuwächse drosseln und die Zeit nutzen, um die Sicherheit zu verbessern, eine Position, die Sam Altman von OpenAI und Demis Hassabis von Google DeepMind in unterschiedlichem Maß weitgehend teilen. Nvidia-Chef Jensen Huang sagte, die katastrophalen Risiken seien übertrieben und das geltende Recht reiche aus. Meta-Chef Mark Zuckerberg neigte zur Selbstregulierung und stellt Vertrauen und Alignment als Produktmerkmale heraus. Präsident Trump erklärte, die USA riskierten gegenüber China an Boden zu verlieren, wenn sie ihre Unternehmen ausbremsten, und nannte die Furcht vor einer KI-Katastrophe einen Schwindel. Eine Koalition, die sich nicht einig ist, ob das Risiko real ist, werde sich schwertun, gemeinsame Standards oder Sanktionen zu vereinbaren, argumentiert der Autor, was sie zum kleinsten gemeinsamen Nenner dränge.

Wie es weitergeht

Die Analyse nennt das Abkommen "einen fairen Ausgangspunkt" und sieht in den Zusagen, Modelle zu überwachen, interne Teams zur Prüfung der Kontrollen einzusetzen und externe Prüfer einzubinden, solide Bausteine. In den kommenden Monaten wird es sich konkreten Tests stellen müssen:

• Wer wählt die externen Prüfer aus und bezahlt sie?
• Werden die Ergebnisse der Audits veröffentlicht?
• Hat ein durchgefallenes Audit irgendeine Konsequenz?
• Wird sich der Kreis über die sechs Unterzeichner hinaus erweitern und kleinere KI-Unternehmen einschließen?

Langfristig warnt der Autor: Wenn das Wettrennen anhält, sei es mit China oder unter den Laboren, habe jedes Unternehmen den Anreiz, von der Vorsicht der anderen zu profitieren, ohne selbst beizutragen. Dann brauche der Staat eine "wohlwollende Wunderwaffe", eine Durchsetzungsmacht, die so glaubwürdig ist, dass sie selten eingesetzt werden muss. Zentrale Schutzmaßnahmen müssten verpflichtend sein, so der Text, weil Nachsicht als Gegenleistung für Kooperation riskantes Verhalten profitabler machen könne. Die Aufgabe einer bundesstaatlichen Regel sei es nicht, die Anstrengungen der Branche zu ersetzen, sondern dafür zu sorgen, dass sie Bestand haben.