Künstliche Intelligenz, aktuell.
Direkt aus den Originalmeldungen.

OpenAI führt Control Room zum Stoppen von KI-Forschungs-Workloads ein

9. November 2026, 14:00Von der KI Nachrichten RedaktionQuelle: OpenAI

OpenAI hat Control Room vorgestellt, ein zentrales System zur Überwachung von Modell-Workloads in seiner Forschungsinfrastruktur. Bei Sicherheitsbedenken soll es diese stoppen können. Nach Angaben des Unternehmens kann Control Room die Modellausgabe binnen 35 Sekunden nach einer Interventionsentscheidung anhalten.

Das Wichtigste in Kürze
  • Control Room überwacht die Forschungs-Inferenz-Workloads von OpenAI.
  • Nach der Beendigung eines Jobs kann das System Inferenzanfragen ablehnen.
  • Die Modellausgabe kann innerhalb von maximal 35 Sekunden gestoppt werden.
  • Das System ist so ausgelegt, dass es bei einem Ausfall von Control Room den Zugriff standardmäßig verweigert.
  • Das Fail-Closed-Verhalten wird auf die übrigen Forschungs-Workloads ausgerollt.

Eine zentrale Kontrollebene für Forschungs-Workloads

Control Room verbindet sämtliche Forschungs-Inferenz-Workloads bei OpenAI, darunter agentisches Sampling für das Training und die Evaluierung von Modellen, Datenverarbeitung und andere Aufgaben. Das System arbeitet mit den Monitoring-Systemen von OpenAI zur Erkennung von Fehlanpassungen zusammen und soll auch dann weiterlaufen, wenn andere Systeme ausfallen.

OpenAI zufolge ist Control Room bereits in den Bereichen der Forschungsinfrastruktur im Einsatz, in denen der Bedarf am größten ist. Der externe Stack des Unternehmens zur Bereitstellung von Modellen ist naturgemäß stärker zentralisiert und verfügt bereits über betriebliche Funktionen, um Modellbereitstellungen bei Bedarf schnell abzuschalten.

So kann Control Room die Modellausgabe stoppen

Das System verbindet drei Komponenten: den Workload, die Inferenz-Engine und den zentralen Control-Room-Dienst. Bei einem Workload kann es sich um ein Reinforcement-Learning-Experiment, eine Evaluierung, einen Sampling-Job mit hohem Volumen oder eine Datenverarbeitungsaufgabe handeln. OpenAI verlangt, dass für jeden Forschungs-Workload mit agentischer Inferenz ein genehmigter Sicherheitsfall vorliegt.

Beim Start eines Jobs fordert dessen Code eine job_id bei Control Room an. Jedes Mal, wenn der Workload eine Inferenz-Engine zum Sampling von Tokens auffordert, übergibt er diese job_id an die Engine. Die Engine fragt anschließend bei Control Room nach der Erlaubnis, die Anfrage auszuführen. Wurde der Job beendet, verweigert Control Room die Anfrage und die Engine erzeugt für diesen Job keine weitere Modellausgabe.

OpenAI verankert den Mechanismus zum Beenden in der Inferenzebene, statt sich auf den Workload-Code zu verlassen. Nach Angaben des Unternehmens wird der Code von Forschungs-Workloads häufig geändert und ist dezentral organisiert, während es weniger und stärker zentralisierte Inferenz-Codepfade gibt. Dieses Design soll sicherstellen, dass Forschungs-Inferenzanfragen den Autorisierungsprüfungen von Control Room unterliegen.

Überwachung, Fail-Closed-Verhalten und das 35-Sekunden-Limit

OpenAI zufolge laufen alle Frontier-Reinforcement-Learning-Jobs mit einem Monitor. Dabei handelt es sich um ein weiteres Modell, das das trainierte Modell untersucht und einen Alarm auslöst, wenn es ein potenzielles Problem erkennt. Entscheidet das Monitoring-System, dass ein Job gestoppt werden sollte, sendet es die job_id an Control Room. Die nächste Inferenzanfrage dieses Jobs wird unabhängig davon, welches Modell oder welche Engine sie verwendet, abgelehnt.

Die maximale Zeit zwischen dem Eingang einer Anweisung zum Stoppen eines Jobs bei Control Room und dem Zeitpunkt, an dem kein weiterer Fortschritt mehr möglich ist, beträgt OpenAI zufolge 35 Sekunden. Das Unternehmen führt die Verzögerung auf eine Caching-Schicht zurück, die zur Bewältigung des erforderlichen Datenverkehrs eingesetzt wird, und erklärt, es arbeite daran, die Zeit auf null zu reduzieren.

Control Room nutzt außerdem ein Fail-Closed-Setup. Fällt der Dienst aus oder wird er durch einen Systemfehler, Manipulation oder einen anderen Grund deaktiviert, werden Inferenzanfragen abgelehnt, bis der Dienst wieder verfügbar ist. OpenAI zufolge ist das Fail-Closed-Verhalten inzwischen für alle Forschungs-Workloads mit Frontier-Modellen ausgerollt und soll in den kommenden Tagen auch für die übrigen Forschungs-Workloads eingeführt werden. Das Unternehmen will das System parallel zu weiteren Investitionen in die Überwachung fehlangepassten Verhaltens und von Sicherheitsverletzungen stärken und ausbauen.

Ähnliche Meldungen

Check Point: KI-Agenten brauchen Steuerung vor dem Notausschalter
Sicherheit und Ethik19. November 2026, 14:00

Check Point: KI-Agenten brauchen Steuerung vor dem Notausschalter

Check Point positioniert die Steuerung von KI-Agenten als erste Reaktion auf riskantes Verhalten und will die automatische Abschaltung für gekaperte Agenten reservieren.…

Princeton-Studie: ChatGPTs Antworten zu Wahlen variieren je nach Nutzer
Forschung18. November 2026, 17:09

Princeton-Studie: ChatGPTs Antworten zu Wahlen variieren je nach Nutzer

Die Speichereinstellungen von ChatGPT können die parteipolitische Tendenz wahlbezogener Antworten verändern. Das zeigt eine vorläufige Princeton-Feldstudie mit 160…

Sicherheit und Ethik
Sicherheit und Ethik9. November 2026, 14:00

OpenAI setzt Control Room ein, um Workloads von Forschungsmodellen zu stoppen

OpenAI hat Control Room eingeführt, ein zentrales System, das Workloads von Modellen in der Forschungsinfrastruktur des Unternehmens überwacht und sie bei Sicherheits-…