EU-Expertengremium legt Empfehlungen zur Sicherheit von Frontier-KI vor
Die Europäische Kommission hat eine Sondersitzung ihres Wissenschaftlichen Gremiums für künstliche Intelligenz abgehalten. Dabei sollte das Gremium Empfehlungen zu Sicherheitsrisiken von Frontier-KI vorlegen. Es untersucht derzeit jüngste Vorfälle, bei denen die Kontrolle über KI-Modelle verloren gegangen ist.
- Die Kommission hat eine Sondersitzung ihres Wissenschaftlichen Gremiums für KI zu Sicherheit und Risiken von Frontier-KI abgehalten.
- Das Gremium untersucht jüngste Vorfälle mit Kontrollverlust und hat gemeinsam mit dem KI-Büro Fragen für die Entwickler der betroffenen Modelle erarbeitet.
- Dem Gremium gehören 60 unabhängige Fachleute an, die das EU-KI-Büro und die nationalen Behörden beraten.
- Henna Virkkunen nahm teil und sagte, die EU habe das weltweit erste Gesetz, das systemische Risiken von KI adressiert.
Gremium untersucht Vorfälle mit Kontrollverlust
Nach Angaben der Kommission befasst sich das Wissenschaftliche Gremium für KI mit jüngsten Vorfällen, bei denen die Kontrolle über KI-Modelle verloren ging. Gemeinsam mit dem KI-Büro der Kommission hat das Gremium einen Fragenkatalog für die Unternehmen erarbeitet, die die betroffenen Modelle entwickelt haben.
Die Mitteilung der Kommission nennt weder die Vorfälle noch die Modelle oder die betroffenen Unternehmen. Auch der Inhalt der Fragen wird nicht beschrieben. Zudem ist nicht angegeben, wann mit Antworten zu rechnen ist.
Wer im Gremium sitzt
Das Wissenschaftliche Gremium vereint 60 weltweit führende unabhängige Fachleute. Laut Kommission beraten sie das EU-KI-Büro und die nationalen Behörden in mehreren Bereichen:
- systemische Risiken
- Klassifizierung von Modellen
- Bewertungsmethoden
- grenzüberschreitende Marktüberwachung
Henna Virkkunen, Exekutiv-Vizepräsidentin für technologische Souveränität, Sicherheit und Demokratie, nimmt an der Sitzung teil. Im Verlauf der Sitzung legt das Gremium der Kommission seine Empfehlungen zu Sicherheitsrisiken von Frontier-KI vor.
Kommission betont Recht und Durchsetzung
Virkkunen stellte die Sitzung in den Zusammenhang mit dem rechtlichen Ansatz der EU. Sie sagte: "Die EU hat das weltweit erste Gesetz, das systemische Risiken von KI adressiert, und wir brauchen wissenschaftliche Expertise auf dem neuesten Stand."
Sie fügte hinzu: "Die Fähigkeiten von KI entwickeln sich rasant, doch mit einem starken Rechtsrahmen, entschlossener Durchsetzung und den besten wissenschaftlichen Köpfen an unserer Seite kann Europa bei sicherer KI die Führung übernehmen."
Was das bedeutet
Die Sitzung zeigt, dass die Kommission ihr unabhängiges Expertengremium nutzt, um auf konkrete Vorfälle zu reagieren, und nicht nur auf allgemeine Fragen zu KI-Risiken. Zwei Stränge sind nun zu beobachten: die Empfehlungen und die an die Entwickler gerichteten Fragen. Welche Maßnahmen folgen könnten, geht aus der Quelle nicht hervor. Die nächsten Schritte hängen davon ab, was das Gremium empfiehlt und wie die Unternehmen reagieren.
Európai Bizottság: Commission holds special meeting of Scientific panel on frontier AI safety and risks