Oxford-Institut für KI-Ethik ernennt fünf neue Accelerator Fellows

Fellows befassen sich mit KI-Sicherheit und Technologiepolitik

Drei der Ernannten stoßen als Senior Accelerator Fellows zum Institut. Stuart Russell OBE, FRS ist Distinguished Emeritus Professor für Elektrotechnik und Informatik an der University of California, Berkeley, Mitautor des Standardlehrbuchs über künstliche Intelligenz und Präsident der International Association for Safe and Ethical AI.

Während seines Fellowships wird Russell philosophische Probleme untersuchen, die sich aus seinem langfristigen Projekt ergeben, nachweislich sichere und nützliche KI-Systeme zu entwickeln. Marietje Schaake, eine niederländische Politikerin und Expertin für Digitalpolitik, wird politische Optionen erforschen, um dem Einfluss von Technologieunternehmen entgegenzuwirken, während KI weltweit eingesetzt wird. Ihre Arbeit konzentriert sich auf das Verhältnis zwischen Technologie, Demokratie und Geopolitik.

Jen Zhu, Gründerin eines Technologieunternehmens, Vorstandsmitglied und Investorin, wird KI als materiell verankert in physischer Infrastruktur untersuchen, darunter Wasser, Mineralien und Rechenzentren. Zhu ist Mitgründerin und CEO von Power Dynamics. Das Unternehmen entwickelt Hardware, die Batteriespeichersysteme, fortschrittliche Immersionskühlung für GPUs und die thermische Wiederverwendung für KI-Rechenzentren sowie Edge-Computing für lokale Inferenz integriert.

Forschung zu Arbeit und Repräsentation

Isabelle Ferreras kommt als Accelerator Fellow hinzu. Die Soziologin und Politikwissenschaftlerin forscht zu Unternehmensführung, Arbeit, KI und demokratischer Theorie. Sie ist Forschungsdirektorin beim Belgian National Fund for Scientific Research in Brüssel und Professorin extraordinaire an der University of Louvain.

Ferreras wird ein Programm leiten, das auf der Ansicht beruht, dass das Recht, KI mitzugestalten, der wichtigste Motor sinnvoller Arbeit ist. Das Projekt stellt die Beteiligung an der Entwicklung von KI ins Zentrum der Fragen nach Arbeit und der Zukunft der Arbeitswelt.

Zarinah Agnew, Forschungsdirektorin beim Collective Intelligence Project, wird untersuchen, wann KI bei Aufgaben wie Politiksimulationen glaubwürdig verschiedene Teile der Bevölkerung repräsentieren kann. Agnew ist ausgebildete Neurowissenschaftlerin und leitet das Global-Dialogues-Programm der Organisation, einen kulturübergreifenden Datensatz zur Beratung, der sich über mehr als achtzig Länder erstreckt. Das Collective Intelligence Project entwickelt Methoden, um zu messen, wie gut KI-Systeme die Menschen repräsentieren, für die sie sprechen sollen.

Ein Programm für KI-Regulierung und öffentliche Aufklärung

Dr Caroline Emmer De Albuquerque Green, Direktorin des Accelerator Fellowship Programme, sagte: „Wir freuen uns sehr, diese außergewöhnliche Gruppe von Fellows im Accelerator Fellowship Programme willkommen zu heißen. Sie bringen eine bemerkenswerte Breite an Fachwissen und Perspektiven mit. Die Arbeit, die sie als Fellows leisten, wird einen wichtigen Beitrag zu unserer Aufgabe leisten, einige der drängendsten ethischen Herausforderungen der KI anzugehen.“

Das durch Mittel der Stephen A. Schwarzman Foundation unterstützte Programm soll zur KI-Regulierung, zu Branchenpraktiken und zur öffentlichen Aufklärung beitragen und zugleich langfristige Allianzen fördern, die sich mit den Risiken und Chancen von KI befassen. Das Institut erklärt, seine Vision bestehe darin, sicherzustellen, dass KI allen zugutekommt, indem es ethische Herausforderungen wie Vorurteile, Datenschutzbedenken, Rechenschaftspflicht und Transparenz angeht.

Für Nutzer und politische Entscheidungsträger signalisieren die Ernennungen eine breit angelegte Forschungsagenda. Die Arbeit der Fellows verbindet technische Sicherheit mit Fragen zu Unternehmensmacht, demokratischer Teilhabe, Ressourcen, Arbeit und der Frage, ob KI-Systeme Gemeinschaften fair repräsentieren können. Das Institut lädt die Öffentlichkeit ein, die Arbeit der Fellows über seine LinkedIn- und X-Konten sowie bei regelmäßigen Veranstaltungen zu verfolgen.