ETSI veröffentlicht Standard, um schädliche Deepfakes an der Quelle einzudämmen
ETSI hat mit ETSI TS 104 275 eine Technische Spezifikation veröffentlicht, die das Risiko verringern soll, dass generative KI-Systeme schädliche Deepfakes erzeugen. Statt auf die nachträgliche Erkennung zu setzen, behandelt sie die Prävention als Aufgabe von Sicherheit und Governance über den gesamten Lebenszyklus eines KI-Systems hinweg.
- ETSI hat die Technische Spezifikation ETSI TS 104 275 veröffentlicht, um das Risiko schädlicher Deepfakes durch generative KI-Systeme zu verringern.
- Sie verfolgt einen proaktiven Ansatz und behandelt Deepfake-Prävention als Frage von Sicherheit und Governance über den gesamten Lebenszyklus des KI-Systems.
- Zu den Maßnahmen zählen Risikobewertungen vor dem Einsatz, menschliche Aufsicht, Inhaltsfilter und Kennzeichnung, laufende Überwachung und dokumentierte Nachweise.
- Das Dokument enthält Testszenarien und Bestanden/Nicht-bestanden-Kriterien, mit denen Organisationen belegen können, dass Schutzmaßnahmen vorhanden sind.
- Es baut auf ETSI EN 304 223 auf und unterstützt laut ETSI Ziele des EU AI Act über Hochrisiko-Systeme hinaus.
Ein proaktiver Ansatz gegen Deepfake-Risiken
Die Spezifikation wurde vom ETSI-Technikkomitee für die Absicherung künstlicher Intelligenz (Technical Committee on Securing Artificial Intelligence, TC SAI) entwickelt. Laut ETSI soll sie die Verantwortlichkeit von KI-Entwicklern und -Betreibern stärken, indem sie praktische Maßnahmen und Schutzvorkehrungen bietet, die zeigen, wie sich Deepfake-bezogene Risiken mindern lassen.
ETSI zufolge konzentrierte sich der Kampf gegen Deepfakes bislang vor allem darauf, manipulierte Inhalte nach ihrer Erstellung zu erkennen. Das neue Dokument geht einen anderen Weg. Es versteht Deepfake-Prävention als Herausforderung für Sicherheit und Governance, der man sich über den gesamten Lebenszyklus eines KI-Systems stellen muss.
Die Spezifikation baut auf den grundlegenden Cybersicherheitsanforderungen des ETSI-Standards EN 304 223 für KI-Modelle und -Systeme auf. ETSI erklärt zudem, sie unterstütze Ziele des EU AI Act und erweitere die Sicherheitsanforderungen über als Hochrisiko eingestufte Systeme hinaus.
Die Maßnahmen, die das TC SAI beschreibt
ETSI nennt fünf Maßnahmenbereiche:
- Risikobewertungen vor dem Einsatz: Möglichen Missbrauch generativer KI-Systeme erkennen und vor der Veröffentlichung Schutzvorkehrungen treffen.
- Menschliche Aufsicht: Prozesse für menschliche Prüfung und Eingriffe, damit Organisationen die Kontrolle über das Systemverhalten behalten.
- Schutz vor Missbrauch: Maßnahmen wie Inhaltsfilter, die Kennzeichnung KI-generierter Inhalte und gegebenenfalls Warnhinweise für Nutzer.
- Laufende Überwachung: Neue Bedrohungen beobachten, Vorfälle untersuchen und Schutzmaßnahmen aktualisieren, sobald neue Risiken erkannt werden.
- Nachweisbasierte Bewertung: Dokumentation und Aufzeichnungen führen, die belegen, ob angemessene Kontrollen umgesetzt wurden und wie vorgesehen funktionieren.
Die Spezifikation enthält außerdem Testszenarien und Bestanden/Nicht-bestanden-Kriterien. Laut ETSI können Organisationen damit nachweisen, ob die Maßnahmen zur Verringerung Deepfake-bezogener Risiken tatsächlich erfüllt sind, statt sich auf Bekenntnisse zu verantwortungsvoller KI-Entwicklung zu verlassen.
Warum das laut ETSI wichtig ist
Alex Cadzow, Berichterstatter und Sekretär des ETSI TC SAI, verwies darauf, wie leicht sich solches Material herstellen lässt. „Schädliches, irreführendes und illegales Deepfake-Material wie missbräuchliche Bilder oder betrügerische Produktwebsites kann durch den Missbrauch legaler und kommerziell erhältlicher Software erstellt werden“, sagte er laut ETSI.
Er fügte hinzu, „KI-Organisationen brauchen Unterstützung, um die Risiken deutlich früher anzugehen, und zwar schon bei der Konzeption generativer KI-Systeme“. Die Spezifikation liefere Organisationen nach seinen Worten „klare Anforderungen, um diese Risiken zu verringern, sowie Möglichkeiten zu prüfen, ob die nötigen Schutzvorkehrungen vorhanden sind“.
Was das für KI-Entwickler und -Betreiber bedeutet
Für Unternehmen, die generative KI-Systeme entwickeln oder betreiben, bietet ETSI TS 104 275 eine Checkliste von Schutzmaßnahmen samt Möglichkeit, diese zu testen und zu dokumentieren. Durch die Bestanden/Nicht-bestanden-Kriterien lässt sich die Einhaltung anhand definierter Ergebnisse beurteilen statt anhand allgemeiner Absichtserklärungen.
ETSI ist eine von nur drei Organisationen, die von der Europäischen Union offiziell als Europäische Normungsorganisation anerkannt sind, und hat über 900 Mitgliedsorganisationen aus mehr als 60 Ländern. Die Spezifikation ist auf der ETSI-Website verfügbar.
