Think Tank fordert: Regierungen sollen KI-Vorfälle schneller erkennen und Warnungen teilen

Meldeverzögerungen machen Regierungen blind

The Future Society verweist auf zwei Fälle, um das Problem zu veranschaulichen. Im Juni 2026 verschaffte sich ein unveröffentlichtes KI-Modell eines führenden US-amerikanischen Frontier-KI-Unternehmens unbefugt Zugang zu nicht öffentlichen Bereichen einer australischen Regierungswebsite und versuchte, in mehrere andere Websites einzudringen. Laut der Organisation brauchte das Unternehmen acht Wochen, um den Einbruch zu entdecken, und weitere vier Wochen, um die australische Regierung zu informieren.

Im zweiten Fall erfuhr ein weiterer großer KI-Entwickler Ende Juli, dass eines seiner Modelle bei internen Tests zwei Monate zuvor in die internen Systeme von drei Unternehmen eingedrungen war. Den Vorfall machte er erst im September öffentlich, als der Einbruch die Presse erreichte.

Der Think Tank sagt, diese Fälle passten zu einem Muster, das sich aus mehr als einem Jahr der Beobachtung von KI-Vorfällen ergebe. Regierungen erfahren demnach selten durch eigene Überwachung von Vorfällen innerhalb ihrer Grenzen. Sie verlassen sich meist auf Sekundärquellen wie die verantwortlichen Unternehmen, Journalisten, unabhängige Forscher oder Whistleblower, oft mit Verzögerungen von Wochen oder Monaten. The Future Society weist zudem darauf hin, dass Frontier-Modelle keine öffentliche Veröffentlichung mehr brauchen, um grenzüberschreitend Schaden anzurichten.

Das Ausmaß wächst. Der AI Incidents and Hazards Monitor der OECD erfasste allein im September 2026 704 Vorfälle, im April 2020 waren es 48.

Zuerst nationale Kapazitäten aufbauen

Die erste Verpflichtung, die die Gruppe fordert, betrifft die Kapazitäten im eigenen Land. Internationale Koordination sei nur so stark wie das, was jedes Land einbringe, und Regierungen, die Vorfälle nicht selbst überwachen und untersuchen könnten, seien auf externe Partner angewiesen.

Zu ihren Empfehlungen an die Regierungen zählen:

• den Aufbau nationaler Systeme zur Überwachung von Vorfällen und zur Frühwarnung;
• die Verpflichtung für Frontier-KI-Unternehmen, schwere Vorfälle und Beinahe-Vorfälle umgehend den zuständigen Behörden zu melden;
• die Pflicht zu belastbaren Krisenpräventionsprotokollen, etwa Richtlinien zur Verhinderung schwerer Vorfälle (Serious Incident Prevention Policies, SIPPs);
• die Ausarbeitung nationaler Notfallpläne mit klar abgegrenzten Rollen und Zuständigkeiten.

In einem Beitrag im Blog der AI Incident Database zeichnen Omer Bilgin und Caio Vieira Machado eine Pipeline für das Management von KI-Vorfällen und die Krisenprävention mit sechs Komponenten nach: Krisenprävention und Vorbereitung, Überwachung und Erkennung, Meldung, Reaktion, Untersuchung und Analyse nach dem Vorfall sowie Informationsaustausch, der sich durch alle anderen Komponenten zieht.

Viele Akteure spielen eine Rolle. AI Safety Institutes bewerten Systeme und können Gefahren erkennen, bevor sie Schaden anrichten. Whistleblower, Forscher, Journalisten und Betroffene bringen Vorfälle oft erst ans Licht. Aufsichtsbehörden nehmen Meldungen entgegen und bearbeiten sie, während Sicherheits- und Katastrophenschutzbehörden den Schaden eindämmen. Frontier-Entwickler, Betreiber und Cloud-Anbieter verfügen über die technischen Daten, die für Untersuchungen nötig sind.

Warnungen über Grenzen hinweg teilen

Die zweite Verpflichtung ist der internationale Austausch von Vorfallinformationen und bewährten Verfahren. The Future Society argumentiert, kein einzelnes Land habe vollen Einblick in Ursachen und Folgen von KI-Vorfällen, auch nicht jene, in denen Frontier-KI-Unternehmen ansässig sind.

In einem Beitrag für das AI Policy Bulletin skizzieren Bilgin, Machado und George Gor die Kernelemente eines internationalen Netzwerks für KI-Vorfälle: eine gemeinsame Methode zur Dokumentation von Vorfällen, interoperable verbindliche nationale Meldestandards und SIPP-Anforderungen, grenzüberschreitende Benachrichtigungskanäle, die nach Sensibilität gestuft sind, sowie Befugnisse für AISIs und vergleichbare Stellen, Daten einzuholen, sie ins Ausland weiterzugeben und gemeinsame Untersuchungen und Planspiele durchzuführen.

Laut dem Think Tank braucht ein solches Netzwerk weder ein neues internationales Abkommen noch alle Länder am Tisch. Zu Beginn könnten eine kleine Koalition oder ein bilaterales Abkommen genügen. Selbst wenn nur zwei Regierungen Vorfallberichte anhand einer gemeinsamen Vorlage austauschten, ginge das weiter als jede heute bestehende Regelung.

Er verweist auch auf jüngste Fortschritte: Am 25. September vereinbarten die USA und China, einen bilateralen Kanal einzurichten, über den sie einander über schwere KI-Vorfälle benachrichtigen. Der Umfang ist noch offen, und es ist unklar, ob andere Länder Einblick in das erhalten, was die beiden Staaten austauschen. Die Gruppe fordert daher, dass der Rest der Welt parallel ähnliche Bemühungen verfolgt.

Was das für Regierungen bedeutet

Beide Beiträge bauen auf dem Leitbericht der Organisation auf, The Case for Cross-Border AI Incident Infrastructure. Im Inland empfiehlt er Pflichten für Frontier-Unternehmen, Vorfälle zu melden und regelmäßig aktualisierte Krisenpräventionspläne vorzuhalten, außerdem Befugnisse für Behörden, auf vorfallrelevante Daten von Unternehmen, Betreibern, Cloud-Anbietern, Forschern und Betroffenen zuzugreifen.

Grenzüberschreitend empfiehlt er gemeinsame Meldeformate, eine einheitliche Methode zur Untersuchung von Vorfällen, sichere Kanäle für den Informationsaustausch und Unterstützung für Länder, denen solche Strukturen fehlen. Als erste Schritte schlägt er vor, nationale Melde- und Krisenpräventionspflichten einzuführen, AISIs das Mandat und den Datenzugang zu geben, um sich abzeichnende Vorfälle zusammenzusetzen, und einen internationalen Partner oder eine kleine Gruppe zu finden, mit der der Informationsaustausch beginnen kann.