EU-KI-Verordnung: Durchsetzung hat begonnen, Bußgelder sind laut Cambridge-Rechtsprofessor wahrscheinlich

Die Durchsetzung läuft

Winter ist Assistant Professor of Law and AI an der University of Cambridge, wo er das Cambridge Programme on AI Science & Policy (CASP) leitet. Außerdem hat er das Institute for Law & AI (LawAI) mitgegründet und leitet es. Er war rechtlicher Berater der Vorsitzenden und des Europäischen KI-Büros bei der Ausarbeitung des Verhaltenskodex für KI-Modelle mit allgemeinem Verwendungszweck (General-Purpose AI Code of Practice). Das Interview ist das zweite in einer Reihe des Simon Institute (SI) darüber, wie verschiedene Länder und Regionen KI regulieren.

Laut der Zusammenfassung des Interviews hat die Kommission Auskunftsersuchen an mehr als 30 Anbieter verschickt. Zudem sind bei ihr Meldungen über schwerwiegende Vorfälle eingegangen, nachdem KI-Modelle Berichten zufolge aus ihren Testumgebungen ausgebrochen waren. Winter hält Bußgelder je nach Reaktion der Anbieter für wahrscheinlich. In einigen Fällen könnten Auflagen folgen, Modelle vom EU-Markt zu nehmen.

Was die Verordnung für Anbieter außerhalb der EU bedeutet

Die Verordnung gilt für Anbieter, die KI-Modelle mit allgemeinem Verwendungszweck auf dem EU-Markt in Verkehr bringen, unabhängig von ihrem Sitz. Anbieter außerhalb der EU müssen in der Regel einen Bevollmächtigten in der Union benennen.

Anbieter der leistungsfähigsten Modelle haben zusätzliche Pflichten: Sie müssen systemische Risiken bewerten und mindern sowie schwerwiegende Vorfälle melden. Ob diese Pflichten auch für intern eingesetzte Modelle gelten, ist rechtlich ungeklärt. Winter rät Anbietern, davon auszugehen, dass dies der Fall ist.

Der Verhaltenskodex für KI-Modelle mit allgemeinem Verwendungszweck ist formal freiwillig, Winter bezeichnet ihn aber als zentralen Maßstab für die Einhaltung der Vorgaben. Anbieter können die Konformität auch auf anderem Wege nachweisen. Dennoch könnte von Nichtunterzeichnern erwartet werden, darzulegen, wie ihre Maßnahmen im Vergleich zum Kodex abschneiden. Harmonisierte Normen sind noch einige Jahre entfernt, weshalb Winter erwartet, dass der Kodex in den kommenden Jahren der wichtigste Weg zur Einhaltung der Vorgaben bleibt. Er weist darauf hin, dass sich der Kodex entsprechend der technischen Entwicklung weiterentwickeln kann.

Kapazitäten, Politik und europäische Souveränität

Winter argumentiert, die Durchsetzung könnte durch begrenzte behördliche Kapazitäten und politischen Druck auf die Probe gestellt werden. Trotz jüngster Einstellungen brauche das KI-Büro nach wie vor deutlich mehr technische und juristische Expertise. Ausländische Regierungen, die ihre Unternehmen schützen wollen, könnten sich der Durchsetzung widersetzen. Winter verweist jedoch darauf, dass die Pflichten die Unternehmen treffen und viele von ihnen starke Anreize haben, ihre Modelle weiterhin in der EU anzubieten.

Er ordnet die Verordnung zudem in die breitere Debatte über europäische KI-Souveränität ein. Er sieht in ihr eine solide Grundlage, um den Risiken von Frontier-KI zu begegnen, argumentiert aber, Europa brauche außerdem verlässlichen Zugang zu fortgeschrittenen KI-Fähigkeiten, Verteidigungswerkzeugen und widerstandsfähigerer Infrastruktur. Als Beispiel nennt die Zusammenfassung den verzögerten Zugang der EU zu Mythos von Anthropic: Die EU-Cybersicherheitsagentur erhielt erst Monate nach dem Start Zugriff auf eine ältere Version. Das zeige, so die Zusammenfassung, wie schwierig es ist, sich bei der Bewertung neuer Bedrohungen und der Reaktion darauf auf ausländische Anbieter zu verlassen.

Was das für KI-Anbieter bedeutet

Für Unternehmen, die den EU-Markt bedienen, legt das Interview nahe, dass die Phase der Regelbefolgung nicht mehr theoretisch ist. Anbieter außerhalb der EU unterliegen denselben Kernpflichten wie europäische, darunter der Benennung eines Bevollmächtigten. Wer die leistungsfähigsten Modelle entwickelt, sollte Risikobewertungen für systemische Risiken und die Meldung von Vorfällen einplanen, auch für nur intern genutzte Modelle. Der Verhaltenskodex ist kurzfristig der praktikabelste Bezugspunkt, um die Einhaltung der Vorgaben nachzuweisen.

Das Interview wurde aus Gründen der Länge und Verständlichkeit bearbeitet. Die geäußerten Ansichten sind die des Interviewten und geben nicht die offizielle Position des SI wieder, die Veröffentlichung stellt keine Rechtsberatung dar.