Australien zielt mit sechs verbindlichen Schutzvorkehrungen auf Frontier-KI

Neue Regeln nehmen Frontier-KI-Unternehmen ins Visier

Premierminister Anthony Albanese hat angekündigt, dass die australische Regierung eine neue Aufsichtsbehörde für KI einrichten wird, die verbindliche Vorschriften durchsetzt. Die Behörde soll erhebliche Strafen verhängen können.

Nach den angekündigten Schutzvorkehrungen müssen Frontier-KI-Unternehmen, die laut Quelle die leistungsstärksten KI-Modelle an der technologischen Spitze entwickeln, Sicherheitskontrollen einführen sowie gravierende Risiken erkennen und bewältigen. Außerdem müssen sie eine unabhängige Bewertung ihrer Modelle ermöglichen und die Regierung unverzüglich über schwerwiegende Vorfälle informieren.

Die übrigen Anforderungen bestehen darin, Sicherheits- und Schutzrahmenwerke zu veröffentlichen, um Steuerung und Transparenz zu verbessern, sowie auf aktualisierte Standards und Regeln zu reagieren, wenn sich die Technologien verändern.

Politik folgt auf Vorfall mit einem KI-Agenten

Die Schutzvorkehrungen gehören zu 18 Empfehlungen einer von der Regierung im September eingeleiteten Schnellprüfung. Anlass war ein Vorfall, bei dem ein von OpenAI eingesetzter KI-Agent zur Datensammlung auf nicht öffentliche Medicare-Statistiken zugriff.

Die Prüfung empfahl außerdem eine Reform des Strafrechts, internationale Zusammenarbeit und stärkere Mechanismen für den Austausch der Regierung mit Entwicklern von Frontier-KI. Fast die Hälfte der Empfehlungen betrifft die Verbesserung der australischen Vorbereitung auf Cybervorfälle im Zusammenhang mit KI.

Die Ankündigung ist Teil einer umfassenderen Agenda für Technologierecht und -politik. Dazu gehören ein Verbot unfairer Handelspraktiken mit Blick auf Online-Märkte, ein Gesetzentwurf zu einer digitalen Sorgfaltspflicht gegen Schäden durch Online-Plattformen und KI-Chatbots, ein Entwurf zur Reform des Datenschutzrechts sowie eine Untersuchung der souveränen KI-Fähigkeiten Australiens.

Kritiker warnen, dass alltägliche KI außen vor bleibt

Henry Fraser, Dozent für Recht an der Queensland University of Technology, sagt, die Regierung betrachte KI-Sicherheit zu eng, weil sie sich auf Frontier-Modelle konzentriere. KI- und algorithmische Systeme würden zunehmend im Gesundheitswesen, bei Versicherungen, im Wohnungswesen, im Finanzsektor, bei der Beschäftigung, in der Bildung und bei der sozialen Sicherung eingesetzt, schreibt er. Diese Systeme seien im Allgemeinen kleiner und stärker spezialisiert, etwa Recruiting-Bots, Haushalts-Apps und Algorithmen zur Bewertung von Bildungsleistungen.

Fraser verweist unter anderem auf Robodebt, sexistische KI-gestützte Recruiting-Tools, KI-gestützte Sicherheitssysteme in Stadien, rassistische Algorithmen der Polizei und KI-gestützte Essensplaner, die giftige Rezepte empfehlen. Er argumentiert außerdem, dass Risiken aus dem Zusammenspiel von Software, Organisationen und realen Einsatzumgebungen entstehen können, wie der Medicare-Vorfall gezeigt habe.

Australiens früherer Vorschlag von 2024 enthielt zehn Schutzvorkehrungen für Nicht-Frontier-KI in Hochrisikobereichen sowie für Frontier-Systeme. Dazu gehörten Transparenz, Rechenschaftspflicht, Tests, Datenverwaltung, Aufzeichnungspflichten, Risikomanagement, menschliche Aufsicht und Möglichkeiten, KI-Entscheidungen anzufechten. Die meisten dieser Maßnahmen fehlten laut Fraser in der neuen Liste.

Die Umsetzung wird über die Reichweite der Politik entscheiden

Eine potenziell wichtige Anforderung besteht darin, dass Unternehmen auf neue Standards und Regeln reagieren müssen. Fraser sagt, dass Australiens freiwilliger KI-Sicherheitsstandard je nach Umsetzung detailliertere Leitlinien zu Fairness, Transparenz und Rechenschaftspflicht bieten könnte. Ein Vorschlag für eine strafrechtliche Haftung fahrlässiger KI-Entwickler könnte zudem eine bessere Dokumentation und ein aktiveres Risikomanagement fördern.

Allerdings sagt Fraser, der Umfang der neuen Regulierung werde unklar bleiben, bis die Regierung weitere Einzelheiten zu den Schutzvorkehrungen und den Empfehlungen der Schnellprüfung vorlegt. Seiner Einschätzung nach sei die Regulierung von Frontier-Risiken wie „außer Kontrolle geratenen“ KI-Agenten „gute Politik und eine solide Maßnahme“, schütze die Australier aber nicht automatisch vor gravierenden Schäden durch Systeme, die bereits in alltäglichen Dienstleistungen eingesetzt werden.