GovAI startet als gemeinnützige Organisation neu und will die Nachwuchsförderung im Fachgebiet ausbauen

Was gleich bleibt und was sich ändert

Laut GovAI bleiben Mission und zentrale Forschungsaktivitäten weitgehend unverändert. Was die neue gemeinnützige Struktur ändert, ist der Handlungsspielraum: Die Organisation erklärt, die größere Flexibilität erlaube es ihr, die Arbeit zum Aufbau des Fachgebiets auszubauen.

Zu den fortgeführten Aktivitäten zählt die Gruppe: Forschung erstellen, betreuen und koordinieren; ein zweimal jährlich stattfindendes Fellowship-Programm für junge Forschende im Bereich KI-Governance; interne Forschungsseminare und eine öffentliche Seminarreihe; die Beratung von Entscheidungsträgern sowie Karriereberatung, Kontakte und informelles Mentoring für vielversprechende Einsteigerinnen und Einsteiger.

Für das kommende Jahr plant GovAI, seine erste Konferenz zur KI-Governance auszurichten, erstmals Forschungspreise für Studierende zu vergeben und einen Ausbau der politischen Beratung zu prüfen.

Zwei Jahre des Experimentierens

GovAI will nach eigenen Angaben in den nächsten rund zwei Jahren experimentieren und mehr darüber lernen, wie die Organisation in ihrer heutigen Form den größten Nutzen stiften kann. Sie erklärt, bestehende oder geplante Aktivitäten anzupassen oder einzustellen, falls sie von deren Wirkung nicht ausreichend überzeugt sei.

Außerdem könnte die Organisation weitere Aktivitäten erproben, etwa Förderprogramme und Stipendien oder ein Programm nach dem Vorbild der Forethought Fellows.

Leitung, Team und Finanzierung

GovAI hat seinen Sitz in Oxford, im selben Gebäude wie das Future of Humanity Institute, das Global Priorities Institute und das Centre for Effective Altruism, und arbeitet mit einem globalen Netzwerk von Kooperationspartnern und Affiliierten an mehreren Institutionen zusammen.

Die Organisation leitet kommissarisch Ben Garfinkel. Er ist Research Fellow am Future of Humanity Institute und Leiter des dortigen AI Governance Teams und seit fünf Jahren mit GovAI und dessen Vorgängerorganisationen verbunden. Präsident Allan Dafoe, Gründer und bisheriger Direktor von GovAI, berät die Organisation und arbeitet an Forschungsprojekten mit. Derzeit leitet er das Long-Term AI Strategy and Governance Team von DeepMind.

Zum übrigen Kernteam gehören:

• Markus Anderljung, Head of Policy und Research Fellow
• Joslyn Barnhart, Applied Research Lead
• Alexis Carlier, Head of Strategy
• Noemi Dreksler, Survey Researcher
• Anton Korinek, Economics of AI Lead
• Anne le Roux, Operations Manager
• Robert Trager, Strategic Modeling Team Lead
• Eoghan Stafford, Strategic Modeling Researcher

Toby Shevlane wird in Kürze als Research Fellow dazustoßen. Dem Beirat gehören Ajeya Cotra, Allan Dafoe, Helen Toner, Tasha McCauley und Toby Ord an. GovAI dankt Open Philanthropy, dem Centre for Emerging Risk Research und den Effective Altruism Funds für die finanzielle Unterstützung sowie dem Centre for Effective Altruism für die vorübergehende steuerliche Trägerschaft.

Offene Stellen und Summer Fellowship

GovAI sucht einen Chief of Staff und einen Research Fellow. Der Chief of Staff soll als „zentraler Knotenpunkt“ innerhalb von GovAI fungieren, nur an die Direktion berichten und eine Reihe von Aufgaben übernehmen, die heute überwiegend bei der Direktion liegen. Die Organisation ist überzeugt, dass die richtige Person ihre langfristige Wirkung und ihre Fähigkeit, die Aktivitäten auszubauen, deutlich steigern könnte.

Research Fellows sollen Forschung zu wichtigen Problemen und offenen Fragen der KI-Governance erarbeiten. GovAI interessiert sich nach eigenen Angaben für Bewerberinnen und Bewerber aus unterschiedlichen Disziplinen, die gezeigt haben, dass sie exzellente Forschung hervorbringen können, und denen die langfristigen Folgen von KI sehr am Herzen liegen. Die Stelle bietet große Forschungsfreiheit, Zugang zu einem breiten Expertennetzwerk und Möglichkeiten zur Zusammenarbeit.

Auch für das Summer Fellowship Program laufen Bewerbungen. Es ermöglicht Berufseinsteigerinnen und Berufseinsteigern, drei Monate an einem Forschungsprojekt zur KI-Governance zu arbeiten, das Fachgebiet kennenzulernen und Wege für eigene Beiträge auszuloten.

Was das für das Fachgebiet bedeutet

Für alle, die sich für KI-Governance interessieren, deutet der Neustart auf mehr Einstiegsmöglichkeiten hin: offene Stellen, ein Fellowship für Nachwuchsforschende, geplante Forschungspreise für Studierende und eine erste Konferenz. GovAI selbst schränkt ein, dass die Pläne vorläufig sind, da die Organisation Aktivitäten ändern oder beenden könnte, die ihre Wirkung in den kommenden zwei Jahren nicht belegen.