CIFAR-Netzwerk entwickelt Werkzeuge zum Schutz von Gerichten vor synthetischen Beweisen

Synthetische Beweise bergen Risiken in beide Richtungen

Die Initiative reagiert auf ein wachsendes Beweisproblem im Zusammenhang mit gefälschten Audioaufnahmen, Texten und Bildern. CIFAR beschreibt ein Szenario vor einem Familiengericht, in dem eine Audioaufnahme scheinbar festhält, wie ein Elternteil ein Kind bedroht. Ist die Aufnahme echt, kann ein sofortiges Eingreifen notwendig sein. Wurde sie mit KI erzeugt, könnte derselbe Beweis zu einer folgenschweren Entscheidung führen, die auf nie gesprochenen Worten beruht.

Maura Grossman, Anwältin und Forschungsprofessorin an der University of Waterloo sowie an der Osgoode Hall Law School der York University, und Ebrahim Bagheri, Professor an der University of Toronto, leiten das Netzwerk gemeinsam. Sie arbeiten mit kanadischen Wissenschaftlern an einem Rahmen zur Bewertung synthetischer Inhalte.

Zum Problem gehört auch die „Lügnerdividende“: Dabei werden echte Beweise als Fälschungen abgetan. CIFAR verweist auf frühe Fälle, in denen diese Verteidigung in US-Gerichten zum Einsatz kam, darunter ein Strafverfahren im Zusammenhang mit dem Aufstand im US-Kapitol am 6. Januar sowie ein Fall eines tödlichen Autounfalls, in dem die Anwälte von Elon Musk die Echtheit eines Videos aus dem Jahr 2016 infrage stellten.

Kommerzielle Detektoren können bei echten Gerichtsakten versagen

Bagheri zufolge lassen sich vorhandene KI-Detektoren nicht einfach aus der Forschung in Gerichtssäle übertragen. Ein Tool, das mit einer Genauigkeit von 60 Prozent beworben wird, könnte bei einer Beweisart eine Genauigkeit von 90 Prozent erreichen, bei einer anderen jedoch nur 10 Prozent. Bei der weniger zuverlässigen Kategorie, sagt er, könnte ein Richter besser auf den Zufall vertrauen.

Die Folgen einer falschen Einschätzung können die Freiheit, Sicherheit oder den Zugang einer Person zu ihren Kindern beeinträchtigen. Synthetische Audioaufnahmen und Textnachrichten sind besonders schwierig, weil Sprach- und Stimmenmodelle günstig, schnell und weit verbreitet sind. In einem Workshop schnitten 40 Experten aus verschiedenen Fachgebieten schlechter als per Zufall ab, als sie echte juristische Dokumente von KI-generierten Texten unterscheiden sollten.

Grossman sagt, dass Richter ohne standardisierte forensische Regeln „nach Gefühl und ohne klare Orientierung“ vorgehen. Bagheri berichtet außerdem von Gesprächen, in denen Richter zunächst erklärten, noch nie mit synthetischen Beweisen zu tun gehabt zu haben, bevor sie erkannten, dass sie solche Beweise möglicherweise bereits gesehen, aber nicht als solche identifiziert hatten.

Ein System zur Unterstützung menschlicher Urteile

Das Netzwerk entwickelt kein automatisiertes System, das Entscheidungen als wahr oder falsch ausgibt. Das Rechenteam entwickelt ein speziell konzipiertes KI-Verifikationstool, das digitale Fingerabdrücke sichtbar machen soll. Dazu gehören Fehler in geklonten Stimmen, statistische Muster in generierten Texten und visuelle Details, die den Gesetzen der realen Welt widersprechen.

Die geplanten Systeme könnten juristischen Fachleuten dabei helfen, Dateien systematisch zu untersuchen. Beispiele sind das Erkennen ungewöhnlicher Abstände, der Abgleich juristischer Zitate mit Gerichtsakten und das Markieren von Widersprüchen, etwa wenn ein Foto mit Geodaten in Ohio verknüpft ist, eine eidesstattliche Erklärung jedoch besagt, es sei in Toronto aufgenommen worden.

Die Gespräche konzentrierten sich auf kanadische und US-amerikanische Gerichte. Die Initiative hat jedoch auch das Interesse norwegischer Rechtswissenschaftler und von Polizeikräften im Vereinigten Königreich geweckt. Ziel des Netzwerks ist es laut CIFAR, Richtern, Anwälten und Personen, die sich selbst vor Gericht vertreten, praktische Werkzeuge und Fragen zur Bewertung digitaler Beweise an die Hand zu geben. Die Entscheidungen sollen weiterhin bei den juristischen Fachleuten liegen.