Künstliche Intelligenz, aktuell.
Direkt aus den Originalmeldungen.

OpenAI setzt Control Room ein, um Workloads von Forschungsmodellen zu stoppen

9. November 2026, 14:00Von der KI Nachrichten RedaktionQuelle: OpenAI

OpenAI hat Control Room eingeführt, ein zentrales System, das Workloads von Modellen in der Forschungsinfrastruktur des Unternehmens überwacht und sie bei Sicherheits- oder Schutzbedenken stoppen kann. Nach Angaben des Unternehmens beendet das System die weitere Modellausgabe innerhalb von 35 Sekunden, nachdem eine Entscheidung zum Eingreifen getroffen wurde.

Das Wichtigste in Kürze
  • Control Room überwacht Forschungs-Workloads von Modellen in der OpenAI-Infrastruktur.
  • Nach der Beendigung eines Jobs kann das System Inferenzanfragen abweisen.
  • Die weitere Modellausgabe wird innerhalb von maximal 35 Sekunden gestoppt.
  • Fällt der Dienst selbst aus, weist das System Inferenzanfragen ab.
  • Der Schutz bei geschlossenem Ausfall wird auf die übrigen Forschungs-Workloads ausgeweitet.

Zentrale Kontrollebene für Forschungs-Workloads

Control Room verbindet laut OpenAI sämtliche Forschungs-Workloads für Inferenz. Dazu gehören agentisches Sampling für das Training und die Evaluierung von Modellen, Datenverarbeitung, Experimente zum bestärkenden Lernen, Sampling mit hohem Volumen und weitere Aufgaben.

Jeder Forschungs-Workload, der agentische Inferenz ausführt, muss mit einem genehmigten Sicherheitskonzept verknüpft sein. Startet ein Forscher einen Job, fordert der Code des Workloads eine job_id von Control Room an. Anfragen zum Sampling von Tokens übergeben diese Kennung anschließend an eine Inferenz-Engine, auf der das Modell läuft.

Die Engine prüft vor der Bearbeitung jeder Anfrage beim Control-Room-Dienst nach. Wurde der Job beendet, weist Control Room die Anfrage ab und die Engine gibt eine Ablehnung an den Workload zurück. Dadurch wird eine weitere Modellausgabe für diesen Job verhindert.

In Überwachungssysteme integriert

OpenAI zufolge arbeitet Control Room mit den Systemen zur Überwachung von Fehlanpassungen zusammen. Frontier-Jobs für bestärkendes Lernen laufen mit einem Monitor, den das Unternehmen als ein weiteres Modell beschreibt. Dieser prüft, was das trainierte Modell tut, und löst einen Alarm aus, wenn er ein Problem erkennt.

Identifiziert ein Überwachungssystem ein mögliches Problem, kann es den Job abhängig von den Einzelheiten und dem Schweregrad stoppen. Es übermittelt die job_id an Control Room, der festhält, dass der Job beendet wurde. Die nächste Inferenzanfrage dieses Jobs wird abgewiesen, unabhängig davon, ob sie ein Modell auf derselben oder einer anderen Engine betrifft.

OpenAI zufolge hat ein Monitor den jüngsten DNS-bezogenen Vorfall erkannt. Das Unternehmen hat Control Room bereits in den Teilen seiner Forschungsinfrastruktur eingeführt, in denen der Bedarf am größten ist. Sein externer Stack für die Bereitstellung von Modellen ist naturgemäß stärker zentralisiert und verfügt bereits über eine betriebliche Möglichkeit, Modellbereitstellungen bei Bedarf schnell abzuschalten.

Für einen sicheren Ausfall konzipiert

Zwischen dem Eingang einer Anweisung zum Stoppen eines Jobs bei Control Room und dem Zeitpunkt, ab dem kein weiterer Fortschritt mehr möglich ist, liegen maximal 35 Sekunden. Nach Angaben von OpenAI entsteht die Verzögerung durch eine Caching-Schicht für die Autorisierung von Inferenzanfragen, die das erforderliche Anfragevolumen unterstützt. Das Unternehmen arbeitet daran, diese Zeit auf null zu reduzieren.

Der Beendigungsmechanismus arbeitet in der Inferenzebene und nicht im Code des Workloads. OpenAI zufolge wird der Code der Workloads häufig geändert und ist dezentral organisiert, während die Zahl der in der Forschung eingesetzten Inferenz-Codepfade gering ist und ihre Bereitstellungen stärker zentralisiert und einheitlich sind. Das Unternehmen führt außerdem fortlaufende agentische und programmatische Prüfungen auf manipulierte oder unerlaubte Engine-Implementierungen durch, bei denen Control Room fehlt oder deaktiviert ist.

Das System ist so konfiguriert, dass es „geschlossen ausfällt“. Das bedeutet, dass Inferenzanfragen abgewiesen werden, wenn der Control-Room-Dienst ausfällt, etwa aufgrund eines Systemfehlers, einer Deaktivierung oder einer Manipulation. OpenAI zufolge wurde der Schutz bei geschlossenem Ausfall für alle Forschungs-Workloads mit Frontier-Modellen eingeführt. Die Einführung für die übrigen Forschungs-Workloads soll in den nächsten Tagen abgeschlossen werden.

OpenAI beschreibt Control Room als einen Bestandteil seines Ansatzes für das sichere Training und die sichere Bereitstellung von Frontier-Modellen. Das Unternehmen will das System gemeinsam mit der Überwachung auf fehlangepasstes Verhalten und Sicherheitsverletzungen weiter stärken und ausbauen.

Ähnliche Meldungen

Check Point: KI-Agenten brauchen Steuerung vor dem Notausschalter
Sicherheit und Ethik19. November 2026, 14:00

Check Point: KI-Agenten brauchen Steuerung vor dem Notausschalter

Check Point positioniert die Steuerung von KI-Agenten als erste Reaktion auf riskantes Verhalten und will die automatische Abschaltung für gekaperte Agenten reservieren.…

Princeton-Studie: ChatGPTs Antworten zu Wahlen variieren je nach Nutzer
Forschung18. November 2026, 17:09

Princeton-Studie: ChatGPTs Antworten zu Wahlen variieren je nach Nutzer

Die Speichereinstellungen von ChatGPT können die parteipolitische Tendenz wahlbezogener Antworten verändern. Das zeigt eine vorläufige Princeton-Feldstudie mit 160…

Sicherheit und Ethik
Sicherheit und Ethik9. November 2026, 14:00

OpenAI führt Control Room zum Stoppen von KI-Forschungs-Workloads ein

OpenAI hat Control Room vorgestellt, ein zentrales System zur Überwachung von Modell-Workloads in seiner Forschungsinfrastruktur. Bei Sicherheitsbedenken soll es diese…