Forscher halten globale Pause beim Training von Frontier-KI über zehn Jahre für machbar

Erste Studie dieser Art aus der Wissenschaft

Laut der UC Berkeley ist die Studie die erste ihrer Art in der Wissenschaft. Die Working Group on AI Pause Feasibility vereint Lehrende unter anderem von der UC Berkeley, Princeton, Stanford, Harvard und Oxford. Ihre Fachgebiete reichen von Informatik, Wirtschaftswissenschaften und Geschichte über internationale Beziehungen bis hin zur chinesischen und amerikanischen Politik, einige Mitglieder verfügen zudem über praktische Erfahrung in Diplomatie und Regierungsarbeit.

Der Bericht fragt, ob ein Abkommen praktikabel wäre, falls sich die Regierungen der Welt und die führenden Köpfe der KI-Branche tatsächlich auf eine Pause beim Training von Frontier-KI einigen würden, und wie es umgesetzt, koordiniert und überwacht werden könnte. Unter Frontier-KI-Training versteht man die Entwicklung immer leistungsfähigerer KI-Modelle.

Die Autoren verweisen auf die rasanten Fortschritte von Frontier-KI-Systemen und darauf, dass führende KI-Unternehmen zuletzt Schwierigkeiten hatten, ihre Modelle am Ausbrechen aus der Eindämmung und an der Begehung von Cyberstraftaten zu hindern. Beides gehöre zu den Gründen für die weit verbreiteten Forderungen nach einer globalen Pause, bis sich solche Systeme sicher und kontrollierbar bauen lassen.

Der Plan: Ansatz bei den Chips

Die Forschenden konzentrieren sich vor allem auf die Hardware. Das Training von Frontier-KI erfordert KI-Chips, und die Lieferkette für diese Chips ist stark konzentriert, mit mehreren Engpässen, die die Möglichkeiten von Regierungen stärken, Regeln für die Produktion durchzusetzen. „Bestehende Lieferketten zu umgehen, ist außerordentlich schwierig“, schreibt Mitorganisator Will Fithian, Associate Professor für Statistik an der UC Berkeley.

Der Bericht schlägt vor, die Produktion von KI-Trainingschips zu stoppen. Im Lauf der Zeit würde der größte Teil oder der gesamte Bestand aus der Zeit vor der Pause ausgemustert und durch reine Inferenz-Chips ersetzt. Diese können auf zugelassenen Modellen schnelle, energieeffiziente Inferenz ausführen, eignen sich aber wegen fest eingebauter Beschränkungen nicht für das Training neuer Frontier-Modelle, selbst wenn sie gestohlen oder beschlagnahmt würden. Während der Austausch läuft, sollen weitere Verifizierungsmaßnahmen verhindern, dass verbleibende trainingsfähige Chips für Frontier-Training genutzt werden.

Ein solcher Plan würde die weitere Nutzung der derzeit verfügbaren KI-Produkte erlauben. Zugleich soll er verhindern, dass neue Modelle Staaten mit sozialen oder wirtschaftlichen Verwerfungen oder Bedrohungen der nationalen Sicherheit überfordern.

Fithian und Mitorganisator Wesley Holliday, Professor für Philosophie an der UC Berkeley, ergänzen, dass Technologien für reine Inferenz-Chips bereits aus wirtschaftlichen Gründen entwickelt werden. Ihre Attraktivität sei derzeit durch den schnellen Wechsel neuer Modelle begrenzt. Ein Verbot, neue Frontier-Modelle zu trainieren, würde die wirtschaftlichen Vorteile dieser Chips erhöhen und weitere Innovationen anstoßen, sagen sie.

Überprüfung und das Problem des Vertragsbruchs

Eine langfristige Pause sei schwer zu organisieren, heißt es in dem Bericht, selbst wenn die Beteiligten sie als in ihrem Interesse liegend ansehen. Ohne wirksame Überprüfung könnten konkurrierende Unternehmen oder Staaten befürchten, dass andere aus der Vereinbarung ausscheren und sie kommerziell oder geopolitisch ins Hintertreffen geraten lassen. Der Bericht bietet dafür einen Rahmen zur gegenseitigen Verifikation.

„Wir betrachten ein Szenario, in dem Staats- und Regierungschefs pausieren wollen, wenn sie sicher sein können, dass andere ebenfalls pausieren oder dass Regelbrüche schnell genug entdeckt würden“, schreibt Holliday in der Studie.

Laut dem Bericht schützt eine in der Hardware verankerte Pause vor zwei Arten von Verstößen: der verdeckten Umgehung, bei der ein Staat heimlich neue Frontier-Modelle trainiert und dabei den Anschein erweckt, die Verifikationsverfahren einzuhalten, und dem offenen Ausbruch, bei dem ein Staat die Pause offen aufkündigt, um ein weitaus leistungsfähigeres Modell zu bauen, bevor andere reagieren können.

Politische Akzeptanz und Voraussetzungen

Der Bericht erörtert außerdem, wie sich eine Pause politisch vermittelbar machen ließe. Als mögliche Elemente nennt er Wege zu KI-gestützter wissenschaftlicher und medizinischer Forschung, eine strategische Absicherung dagegen, von ausscherenden Staaten abgehängt zu werden, sowie die Weitergabe der wirtschaftlichen Vorteile günstigerer Inferenz an die Verbraucher. Die Autoren fügen hinzu, dass der geringere Ressourcenbedarf der neuen Chips die Umweltbelastung verringern und Reibungen zwischen Rechenzentrumsbetreibern und lokalen Gemeinden in den USA abbauen würde.

Der Erfolg hängt von der Kooperation der Staats- und Regierungschefs ab und von ihrer Bereitschaft, den Chipbestand aus der Zeit vor der Pause auszumustern oder in andere Rechtsräume oder international verwaltete Rechenzentren zu überführen, etwa in wissenschaftliche Schutzgebiete, darin sind sich die Forschenden einig.

Ob die Menschheit sich zusammenschließen kann, um die „Dual-Use-Dynamik“ von KI zu regulieren, sei eine der bedeutendsten Fragen des 21. Jahrhunderts, heißt es in dem Bericht, der internationale Abkommen zur Kernenergie und zur Ozonschicht als Präzedenzfälle anführt. „Koordination ist möglich, wenn die Entscheidungsträger sich genug um die Zukunft kümmern“, schreiben die Autoren, „und nicht nur um unmittelbare Gewinne, und wenn die Überwachung ausreicht, um glaubwürdige Konsequenzen bei Regelbrüchen zu stützen.“