GovAI gründet Policy-Team, um Regierungen und KI-Labore auf fortgeschrittene KI vorzubereiten

Warum GovAI das Team aufbaut

Nach Einschätzung von GovAI braucht der Bereich der KI-Governance mehr fundierte Arbeit dazu, was einflussreiche Akteure wie Regierungen und KI-Labore in den kommenden Jahren tun sollten. Das neue Policy-Team soll helfen, diese Lücke zu schließen.

Das Team wird sich vor allem mit der Entwicklung von KI-Politik aus einer langfristigen Perspektive befassen. GovAI erklärt, es werde zudem etwas Zeit darauf verwenden, für seine Empfehlungen zu werben und zu beraten, rechne dabei aber stark mit der Unterstützung anderer Akteure. Die Arbeit richtet sich vor allem an die Regierungen der USA, des Vereinigten Königreichs und der EU sowie an KI-Labore.

Drei erste Schwerpunkte

GovAI will sich jeweils auf einige wenige Schwerpunkte konzentrieren. Zunächst dürfte das Team drei Bereiche verfolgen:

• Compute-Governance: Das Team fragt, ob Rechenleistung ein besonders nützlicher Ansatzpunkt für die Steuerung von KI ist und, falls ja, wie sie unterschiedlichen Zielen dienen kann. Dazu zählen die Überwachung von Fähigkeiten, die Beschränkung des Zugangs zu Fähigkeiten und die Identifizierung von Hochrisikosystemen, damit diese genau geprüft werden können.
• Corporate Governance: Hier geht es darum, welche Maßnahmen Frontier-Labore ergreifen sollten. Dazu gehört, was sich von anderen Branchen für ein besseres Risikomanagement lernen lässt, wie ein Verwaltungsrat die Geschäftsführung am besten beaufsichtigen kann und wie Ethikgremien gestaltet werden sollten.
• KI-Regulierung: Das Team untersucht, welche Regulierung heute am besten helfen würde, Risiken fortgeschrittener KI-Systeme zu beherrschen. Beispielfragen sind, ob Foundation Models ein Regulierungsgegenstand sein sollten, welche Merkmale von KI-Systemen eine Regulierung vorschreiben sollte und wie sich anpassungsfähigere und fachkundigere Regulierungsökosysteme schaffen lassen.

Methoden und Personen

GovAI nennt mehrere Wege, wie es an die Politikentwicklung herangehen will. Dazu gehört das Rückwärtsplanen von erwünschten Ergebnissen hin zu konkreten Empfehlungen, etwa um die Chance auf wirksame internationale KI-Abkommen in der Zukunft zu erhöhen. Ebenso soll überlegt werden, was heute getan werden sollte, um sich auf ein bestimmtes Ereignis vorzubereiten, zum Beispiel eine Investition der US-Regierung in KI auf dem Niveau des Apollo-Programms.

Weitere Ansätze sind das Formulieren und Bewerten politischer Zwischenziele, die Analyse einzelner Steuerungshebel, die Bewertung bestehender Empfehlungen wie der verstärkten Einwanderung Hochqualifizierter in die USA und das Vereinigte Königreich sowie konkrete Beratung für Entscheidungsträger. Als Beispiel nennt GovAI Beiträge zur Ausgestaltung der US National AI Research Resource. Im Lauf der Zeit will GovAI prüfen, welche Schwerpunkte und Ansätze am fruchtbarsten sind, und seinen Fokus entsprechend schärfen.

Dem Team gehören derzeit Jonas Schuett, der auf Corporate Governance spezialisiert ist, Lennart Heim, der auf Compute-Governance spezialisiert ist, und Teamleiter Markus Anderljung an. Es wird außerdem mit dem übrigen GovAI und mit Menschen aus anderen Organisationen zusammenarbeiten.

Neueinstellungen und Bedeutung

GovAI will das Team vergrößern. Es wird regelmäßig Research Scholars im Policy Track einstellen und plant die Zusammenarbeit mit Teilnehmenden seines dreimonatigen Fellowships. Voraussichtlich öffnet es in naher Zukunft die Bewerbungen für Research Fellows; Interessensbekundungen können bereits jetzt eingereicht werden. Neue Mitarbeitende können von Oxford aus arbeiten, wo der Großteil von GovAI sitzt, von der Bay Area aus oder remote.

Für Politik und Labore in den USA, im Vereinigten Königreich und in der EU signalisiert die Ankündigung eine Quelle für Forschung zu konkreten Governance-Fragen, von der Kontrolle von Rechenleistung über Gremienstrukturen bis zur Regulierung. Für Forschende, die sich für das Feld interessieren, eröffnet sie einen Zugang zu politikorientierter Arbeit bei GovAI. Der Beitrag ist auf den 1. August 2022 datiert.