Forschende testen beim ADM+S Hackathon Sicherheitsregeln für Death-Bots

Dreitägige Challenge zu Imitationstechnologie

Die Veranstaltung wurde vom ARC Centre of Excellence for Automated Decision-Making and Society (ADM+S) ausgerichtet. Sie brachte Forschende von ADM+S und dem Swinburne Social Innovation Research Institute zum Thema "The Post Imitation Game: Re-thinking the Turing Test for AI Safety" zusammen.

Laut Dr. Dominique Carlon, Leiterin des Organisationskomitees und Research Fellow bei ADM+S, sollten die Teams eine zentrale Frage beantworten: Was tun wir, jetzt da KI Menschen überzeugend imitieren kann? Die Teams sollten, so Carlon, "eine Sicherheitsstrategie entwickeln, die technische und gestalterische Lösungen, soziale Maßnahmen und Governance-Ansätze verbindet, um die Risiken und Chancen von Imitationstechnologien in konkreten realen Kontexten zu adressieren."

Warum alle Teams Death-Bots wählten

Die Teams konnten zwischen vier möglichen Szenarien wählen. Alle entschieden sich für den Bereich Nachlass und Death-Tech, den ADM+S als einen der komplexeren und sensibleren Kontexte für Imitationstechnologien beschreibt. Über drei Tage hinweg prüften sie Sicherheitsfragen rund um einen Chatbot, der eine Person nach ihrem Tod repräsentiert.

Die zentrale Schwierigkeit bestand nach Angaben der Organisatoren darin, Maßnahmen zu entwerfen, die eine sinnvolle Nutzung eines Death-Bots ermöglichen, etwa zum Trauern und zum Erinnern an einen Menschen, und zugleich unbeabsichtigte oder negative Folgen vermeiden.

Daniel Reeders, Senior Project Officer bei der National Organisation of People with HIV Australia (NAPWHA), einer mit ADM+S kooperierenden Organisation, war sowohl Mentor als auch Juror. Er zeigte sich überrascht und beeindruckt, dass alle vier Teams einen Death-Bot wählten. Er verwies auf die "wirklich tiefgehenden Gespräche" an den Tischen über die "heiklen ethischen, politischen und technologischen Fragen rund um Death-Tech". Zudem sei es ermutigend gewesen, dass die verschiedenen regulatorischen Perspektiven sorgfältig diskutiert wurden.

Siegerteam und Jury

Die Teams schlugen eine Reihe von Lösungen vor, darunter regulatorische Rahmenwerke und Maßnahmen gegen die ethischen Probleme, die dieser KI-Einsatz aufwirft. Die Siegergruppe, das "Calico Cat team", bestand aus Phoebe Matich, Ned Watt, James Marshall, Cindy Han, Yanheng Fang und Jayme Verhagen. Die Mitglieder erhielten Feedback und Anerkennung der Jury sowie 500 Dollar Forschungsförderung.

ADM+S nannte folgende Jurymitglieder:

• Daniel Reeders, National Association of People with HIV Australia
• Benjamin Kolaitis, Melbourne City Council
• Christie Ditchburn, Telstra Sustainability, External Affairs and Legal Services
• Professor Chris Leckie, University of Melbourne

Was das bedeutet

Der Hackathon brachte weder ein veröffentlichtes Rahmenwerk noch verbindliche Regeln hervor, und die Quelle nennt keine Details zum Siegerentwurf. Er zeigt aber, dass Forschende die KI-Imitation Verstorbener als praktisches Sicherheitsproblem betrachten, auf das technische, soziale und regulatorische Antworten gemeinsam gefunden werden müssen.

Carlon sagte, die Organisatoren seien "unglaublich beeindruckt von der Energie, der Kreativität und dem kollaborativen Geist" der Teilnehmenden gewesen. Sie hoffe, so Carlon weiter, dass die Veranstaltung "als Katalysator für fortlaufende Zusammenarbeit, Forschung und Innovation über die Universitäten hinweg in diesem Bereich" wirke.