OpenRouter prüft künftig alle Inferenzanfragen auf CSAM, auch ZDR-Datenverkehr

So funktioniert die Prüfung

Nach Angaben von OpenRouter besteht die Prüfung aus zwei Teilen. Der erste ist die Erkennung bekannten CSAMs: Dabei werden betreffende Inhalte mit Hashes (digitalen Fingerabdrücken) bereits identifizierten CSAMs abgeglichen. Der zweite Teil ist die Prüfung mutmaßlich neuen CSAMs. OpenRouter erklärt, man könne damit beginnen, als mögliches CSAM markierte Inhalte zur menschlichen Überprüfung zu speichern, auch wenn sie keinem bekannten Hash entsprechen.

Das Unternehmen betont, eine Markierung weise lediglich auf einen Verdacht hin und sei selbst keine Feststellung, dass es sich um CSAM handelt. Der Hash-Abgleich erkenne bekanntes Material, während Klassifikatoren auch mutmaßliches Material identifizieren könnten, das noch in keiner Hash-Datenbank erfasst ist.

OpenRouter verweist auf Empfehlungen des National Center for Missing & Exploited Children (NCMEC). Dieses rät Diensten, die Bilder und Videos verarbeiten, darunter auch generativen KI-Diensten, zu Hashing und Bildklassifikatoren als grundlegenden Kinderschutzmaßnahmen.

Auch Datenverkehr mit Zero Data Retention ist erfasst

Die Prüfung gilt auch für Anfragen, die unter die Zero-Data-Retention-Richtlinie (ZDR) von OpenRouter fallen. Das Unternehmen kündigt an, seine Dokumentation und die zugehörigen Bedingungen zu aktualisieren, um die eigene Zusage zur Datenspeicherung klarer zu fassen. Bei ZDR-Inferenzinhalten speichere OpenRouter Prompts und Antworten nach der Verarbeitung nicht. Es gibt zwei Ausnahmen: wenn Nutzer ausdrücklich wünschen, dass OpenRouter sie speichert, oder wenn die Speicherung für die CSAM-Prüfung, die Meldung und die damit verbundene rechtliche Sicherung erforderlich ist.

OpenRouter betont, diese CSAM-Regelungen erlaubten keine allgemeine Speicherung von ZDR-Inferenzinhalten für andere Zwecke. Die Zusage, Ein- und Ausgaben nicht für das Training von Modellen zu verwenden, gelte laut dem Beitrag weiterhin und werde in der Datenschutzerklärung beschrieben.

Gesetzliche Melde- und Aufbewahrungspflichten

OpenRouter beschreibt die Melde- und Aufbewahrungspflichten bei CSAM als etablierte gesetzliche Verpflichtungen, die ZDR nicht aufhebt. Nach US-Recht müssten erfasste Anbieter die Fälle an die CyberTipline des NCMEC melden, sobald es nach tatsächlicher Kenntnis von Tatsachen oder Umständen, die auf bestimmte mutmaßliche Straftaten hindeuten, vernünftigerweise möglich ist. Gemeldete Inhalte und bestimmte zugehörige Kontextdaten müssten ein Jahr nach der Übermittlung aufbewahrt werden.

Das Unternehmen weist darauf hin, dass diese Pflicht für gemeldetes Material gilt und nicht für jeden zur Prüfung markierten Inhalt. Es verweist auf 18 U.S.C. § 2258A(a) und (h).

Was das für Nutzer bedeutet

OpenRouter erklärt, Modellentwickler und Anbieter könnten unterschiedliche Prüf- und Speichermethoden einsetzen. Manche speicherten Inhalte eine gewisse Zeit, um automatisierte Sicherheitsprüfungen durchzuführen, bevor überhaupt etwas markiert wurde. Diese Praktiken seien laut dem Unternehmen von der eigenen Live-Prüfung getrennt und richteten sich nach den jeweiligen Richtlinien der Modelle und Anbieter.

OpenRouter dokumentiert die Richtlinien der Anbieter, damit Nutzer die für ihre Anfragen geltenden Vorgaben einsehen können. Das Unternehmen rät, diese Richtlinien bei der Wahl eines Modells oder Anbieters zu prüfen, besonders wenn die eigene Organisation bestimmte Anforderungen an die Datenspeicherung hat.

Das Unternehmen kündigt an, seine Dokumentation und die zugehörigen Bedingungen zu aktualisieren, um die Live-Prüfung, die mögliche Speicherung markierter Inhalte und die Darstellung der Anbieterrichtlinien zu beschreiben, und die Nutzer auf dem Laufenden zu halten.