OpenAI setzt Control Room ein, um Workloads von Forschungsmodellen zu stoppen
OpenAI hat Control Room eingeführt, ein zentrales System, das Workloads von Modellen in der Forschungsinfrastruktur des Unternehmens überwacht und sie bei Sicherheits- oder Schutzbedenken stoppen kann. Nach Angaben des Unternehmens beendet das System die weitere Modellausgabe innerhalb von 35 Sekunden, nachdem eine Entscheidung zum Eingreifen getroffen wurde.
- Control Room überwacht Forschungs-Workloads von Modellen in der OpenAI-Infrastruktur.
- Nach der Beendigung eines Jobs kann das System Inferenzanfragen abweisen.
- Die weitere Modellausgabe wird innerhalb von maximal 35 Sekunden gestoppt.
- Fällt der Dienst selbst aus, weist das System Inferenzanfragen ab.
- Der Schutz bei geschlossenem Ausfall wird auf die übrigen Forschungs-Workloads ausgeweitet.
Zentrale Kontrollebene für Forschungs-Workloads
Control Room verbindet laut OpenAI sämtliche Forschungs-Workloads für Inferenz. Dazu gehören agentisches Sampling für das Training und die Evaluierung von Modellen, Datenverarbeitung, Experimente zum bestärkenden Lernen, Sampling mit hohem Volumen und weitere Aufgaben.
Jeder Forschungs-Workload, der agentische Inferenz ausführt, muss mit einem genehmigten Sicherheitskonzept verknüpft sein. Startet ein Forscher einen Job, fordert der Code des Workloads eine job_id von Control Room an. Anfragen zum Sampling von Tokens übergeben diese Kennung anschließend an eine Inferenz-Engine, auf der das Modell läuft.
Die Engine prüft vor der Bearbeitung jeder Anfrage beim Control-Room-Dienst nach. Wurde der Job beendet, weist Control Room die Anfrage ab und die Engine gibt eine Ablehnung an den Workload zurück. Dadurch wird eine weitere Modellausgabe für diesen Job verhindert.
In Überwachungssysteme integriert
OpenAI zufolge arbeitet Control Room mit den Systemen zur Überwachung von Fehlanpassungen zusammen. Frontier-Jobs für bestärkendes Lernen laufen mit einem Monitor, den das Unternehmen als ein weiteres Modell beschreibt. Dieser prüft, was das trainierte Modell tut, und löst einen Alarm aus, wenn er ein Problem erkennt.
Identifiziert ein Überwachungssystem ein mögliches Problem, kann es den Job abhängig von den Einzelheiten und dem Schweregrad stoppen. Es übermittelt die job_id an Control Room, der festhält, dass der Job beendet wurde. Die nächste Inferenzanfrage dieses Jobs wird abgewiesen, unabhängig davon, ob sie ein Modell auf derselben oder einer anderen Engine betrifft.
OpenAI zufolge hat ein Monitor den jüngsten DNS-bezogenen Vorfall erkannt. Das Unternehmen hat Control Room bereits in den Teilen seiner Forschungsinfrastruktur eingeführt, in denen der Bedarf am größten ist. Sein externer Stack für die Bereitstellung von Modellen ist naturgemäß stärker zentralisiert und verfügt bereits über eine betriebliche Möglichkeit, Modellbereitstellungen bei Bedarf schnell abzuschalten.
Für einen sicheren Ausfall konzipiert
Zwischen dem Eingang einer Anweisung zum Stoppen eines Jobs bei Control Room und dem Zeitpunkt, ab dem kein weiterer Fortschritt mehr möglich ist, liegen maximal 35 Sekunden. Nach Angaben von OpenAI entsteht die Verzögerung durch eine Caching-Schicht für die Autorisierung von Inferenzanfragen, die das erforderliche Anfragevolumen unterstützt. Das Unternehmen arbeitet daran, diese Zeit auf null zu reduzieren.
Der Beendigungsmechanismus arbeitet in der Inferenzebene und nicht im Code des Workloads. OpenAI zufolge wird der Code der Workloads häufig geändert und ist dezentral organisiert, während die Zahl der in der Forschung eingesetzten Inferenz-Codepfade gering ist und ihre Bereitstellungen stärker zentralisiert und einheitlich sind. Das Unternehmen führt außerdem fortlaufende agentische und programmatische Prüfungen auf manipulierte oder unerlaubte Engine-Implementierungen durch, bei denen Control Room fehlt oder deaktiviert ist.
Das System ist so konfiguriert, dass es „geschlossen ausfällt“. Das bedeutet, dass Inferenzanfragen abgewiesen werden, wenn der Control-Room-Dienst ausfällt, etwa aufgrund eines Systemfehlers, einer Deaktivierung oder einer Manipulation. OpenAI zufolge wurde der Schutz bei geschlossenem Ausfall für alle Forschungs-Workloads mit Frontier-Modellen eingeführt. Die Einführung für die übrigen Forschungs-Workloads soll in den nächsten Tagen abgeschlossen werden.
OpenAI beschreibt Control Room als einen Bestandteil seines Ansatzes für das sichere Training und die sichere Bereitstellung von Frontier-Modellen. Das Unternehmen will das System gemeinsam mit der Überwachung auf fehlangepasstes Verhalten und Sicherheitsverletzungen weiter stärken und ausbauen.

