OpenAI führt unsichtbare Text-Wasserzeichen in der EU ein und öffnet eine API-Opt-in-Option

Was OpenAI ausrollt

Nach Angaben von OpenAI geschieht die Einführung schrittweise und trägt sowohl den Anforderungen des EU AI Act als auch den Grenzen der Technologie Rechnung. Das Unternehmen betont, Text-Wasserzeichen und deren Erkennung seien noch frühe Technologien mit erheblichen Einschränkungen, und die Einschätzungen zu ihrem Nutzen und zu verantwortungsvollen Einsatzmöglichkeiten entwickelten sich noch.

• API: Ab heute können API-Kunden weltweit für ausgewählte Modelle Text-Wasserzeichen per Opt-in aktivieren. Standardmäßig bleibt die Funktion ausgeschaltet. OpenAI arbeitet nach eigenen Angaben zudem mit Cloud-Partnern zusammen, um in den kommenden Wochen Wasserzeichen auch für Ausgaben von OpenAI-Modellen anzubieten, die über deren Dienste genutzt werden.
• ChatGPT und Codex: In den kommenden Wochen fügt OpenAI geeigneten Textausgaben für Nutzer aller Tarife ein unsichtbares Wasserzeichen hinzu, allerdings nur in der EU. Zum Start macht das Unternehmen Wasserzeichen nicht zur globalen Standardeinstellung. Der regionale Ansatz lasse Raum, aus der praktischen Nutzung und aus Rückmeldungen zu lernen.
• Detektor: Anträge auf Zugang zum Detektor für Text-Wasserzeichen sind möglich. Der Zugang ist zunächst auf geprüfte Forschende und Expertenorganisationen beschränkt und wird im Einzelfall gemäß dem Code of Practice gewährt.

Der Detektor meldet, ob er ein OpenAI-Wasserzeichen findet, ohne die Nutzerin oder den Nutzer zu identifizieren oder Prompts und Unterhaltungen offenzulegen. Wegen des Risikos übersehener Wasserzeichen und falsch positiver Treffer macht OpenAI ihn zum Start nicht öffentlich zugänglich.

Wie textGrain funktioniert und wo es an Grenzen stößt

Die Technologie heißt textGrain. Sie fügt der Wortwahl des Modells ein unsichtbares statistisches Signal hinzu, nach dem der Detektor sucht, um zu beurteilen, ob eine Passage ein OpenAI-Wasserzeichen enthält. OpenAI verweist auf einen technischen Bericht, der in den kommenden Wochen aktualisiert werden soll, und kündigt an, die Technologie als Open Source zu veröffentlichen. In den eigenen Tests habe textGrain die übrigen getesteten Ansätze, darunter SynthID für Text, erreicht oder übertroffen.

OpenAI betont, dass gute Ergebnisse unter Idealbedingungen keine zuverlässige Erkennung im Alltag garantieren. Die eigenen Zahlen zeigen die Lücken:

• Bei einer angestrebten Falsch-positiv-Rate von 1 Prozent erkannte der Detektor Wasserzeichen in rund 80 Prozent der Passagen mit 200 Token, bei Passagen mit 400 Token waren es rund 95 Prozent, jeweils bei Inhalten etwa aus der Psychologie. Deutlich niedriger lag die Erkennung bei Inhalten wie Mathematik, wo die Wortwahl weniger flexibel ist.
• In einer Auswertung von Passagen mit 400 Token sank die Erkennungsrate von rund 92 auf 66 Prozent, wenn 10 Prozent der Wörter durch Synonyme ersetzt wurden. Bei 25 Prozent ersetzter Wörter fiel sie auf 17 Prozent.

Zudem berichtet OpenAI, bei den Benchmarks für Astra, das neueste Frontier-Modell des Unternehmens, gebe es mit und ohne Wasserzeichen keine nennenswerten Leistungsunterschiede. Im Artificial Analysis Intelligence Index erreichte Astra ohne Wasserzeichen 49,57 Punkte und mit Wasserzeichen 49,76. Bei GPQA Diamond lagen die Werte bei 94,44 und 93,94 Prozent, bei DeepSWE v1.1 bei 72,80 und 71,68 Prozent.

Was ein Wasserzeichen nicht belegen kann

OpenAI nennt mehrere Schlussfolgerungen, die ein Erkennungsergebnis nicht stützt:

• Es misst keinen menschlichen Beitrag. Es kann darauf hindeuten, dass ein OpenAI-System einen Teil einer Passage erzeugt oder verarbeitet hat, aber nicht, wie viel menschliches Urteilsvermögen, Redaktionsarbeit oder Kreativität eingeflossen ist.
• Es begründet weder Eigentum noch Verantwortung und zeigt nicht, ob die Nutzung rechtmäßig war oder eine Offenlegung erforderlich gewesen wäre.
• Es identifiziert die Nutzer nicht und stellt keine Verbindung zwischen einer Person, Organisation, einem Konto, Prompt oder einer Unterhaltung und dem Text her.
• Es überprüft nicht die Richtigkeit.
• Das Fehlen eines Wasserzeichens beweist keine menschliche Urheberschaft. Der Text kann zu kurz, bearbeitet oder übersetzt sein, um zuverlässig erkannt zu werden, von einem nicht unterstützten Modell stammen, vor der Einführung von Wasserzeichen entstanden sein oder mit Werkzeugen eines anderen Unternehmens erzeugt worden sein.

Teil eines mehrstufigen Herkunftsansatzes

Keine einzelne Technik zur Herkunftskennzeichnung reiche aus, sagt OpenAI, und kombiniert deshalb offene Standards, dauerhafte Wasserzeichen und Verifizierungswerkzeuge. Das Unternehmen versieht unterstützte Bildausgaben mit Content Credentials, ist C2PA-konform und bettet in unterstützte Bilder und Audiodateien unsichtbare SynthID-Wasserzeichen ein. Die Verifizierung von Bild und Audio bleibt über openai.com/verify und die Content Provenance API öffentlich verfügbar. Die neuen Beschränkungen gelten nur für Text.

Für Nutzer in der EU tragen Texte aus ChatGPT und Codex bald ein verborgenes Signal. API-Kunden außerhalb der EU können selbst entscheiden, ob Wasserzeichen zu ihren eigenen Transparenzpflichten passen. OpenAI erwartet nach eigenen Angaben, jeden Teil des Ansatzes zu überprüfen, sobald sich Technik, Standards und Erkenntnisse weiterentwickeln, und will den Zugang zum Detektor erweitern, wenn sich die Ergebnisse verantwortungsvoll interpretieren lassen.