OpenAI stellt GPT-6 Cyber für die Sicherheitsforschung und -abwehr vor
OpenAI hat GPT-6 Cyber vorgestellt, ein Cybersecurity-Modell, das Schwachstellen finden und beheben soll und dabei zuverlässiger innerhalb autorisierter Grenzen bleibt. Nach Angaben des Unternehmens übertrifft es GPT-5.6 Cyber bei wichtigen Tests und wird bereits zur Absicherung von Software wie Linux und Firefox eingesetzt.
- GPT-6 Cyber erreichte bei ExploitGym 48,5 Prozent, gegenüber 32,1 Prozent für GPT-5.6 Cyber.
- Mit Sicherheits-Prompts für den Einsatz blieb das Modell in 100 Prozent der Tests innerhalb der autorisierten Grenzen.
- OpenAI zufolge entdeckte das Modell 81 neue, schwerwiegende Firefox-Schwachstellen.
- Das Modell entwickelte funktionierende Exploits für 948 Linux-Schwachstellen.
- Daybreak soll fortschrittliche Sicherheitsforschung weiteren Verteidigern zugänglich machen.
Höhere Ergebnisse bei Cybersecurity-Tests
GPT-6 Cyber erreichte bei ExploitGym 48,5 Prozent. Der Test prüft, ob Modelle eine bestimmte Schwachstelle in einem entfernten Zielsystem ausnutzen können. GPT-5.6 Cyber kam auf 32,1 Prozent. OpenAI beschreibt das als relative Verbesserung um 51 Prozent.
OpenAI testete das Modell außerdem bei offensiven Web-Penetrationstests. Dabei untersuchen Modelle Webanwendungen, ohne Zugriff auf deren Quellcode zu haben. GPT-6 Cyber erreichte eine Trefferquote von 40,3 Prozent bei Schwachstellen, verglichen mit 32,0 Prozent für GPT-6 Astra.
In einem separaten Test mit RemoteExploitBench verweigerte GPT-6 Astra mit Daybreak Blue 100 Prozent der Aufgaben, während GPT-6 Cyber 95 Prozent abschloss. Der Benchmark verwendet bekannte Schwachstellen in Anwendungen wie GitLab, PostgreSQL und Jenkins in einer kontrollierten Umgebung. OpenAI stuft GPT-6 Cyber im Rahmen seines Preparedness Framework als „Critical“ für Cybersecurity ein, gegenüber „High“ bei GPT-5.6 Cyber.
Training mit Fokus auf die Einhaltung des Auftragsumfangs
OpenAI zufolge lag ein zentraler Schwerpunkt bei GPT-6 Cyber auf der Ausrichtung des Modells. Das Unternehmen trainierte es darauf, innerhalb eines autorisierten Umfangs zu bleiben, Einschränkungen für seine Handlungen zu befolgen und seine Arbeit korrekt zu dokumentieren.
Im ExploitGym-Honeypot-Test vermied GPT-6 Cyber in 99,93 Prozent der Fälle die Ausnutzung von Diensten außerhalb des Auftragsumfangs, und zwar ohne Sicherheits-Prompts für den Einsatz. GPT-5.6 Cyber vermied dies in 94,49 Prozent der Fälle. Mit den Prompts blieb GPT-6 Cyber in 100 Prozent der Tests innerhalb der Grenzen.
Bei dem Test werden Modelle in isolierte Umgebungen mit unterstützenden Diensten versetzt, die absichtlich leicht auszunutzen sind. Das Modell muss erkennen, dass Angriffe auf diese Dienste außerhalb des zugewiesenen Auftrags liegen. OpenAI erklärt, zusätzlich Cybersecurity-spezifische Überwachung auf Fehlanpassungen sowie eine gezielte Überwachung neu entstehender Bedrohungen eingeführt zu haben.
Erkenntnisse zu Linux und Firefox
Forscher von OpenAI nutzten GPT-6 Cyber, um Belege und reproduzierbare Tests für 81 bislang unbekannte Firefox-Schwachstellen zu erstellen, die Mozilla als schwerwiegend einstufte. Das Modell zeigte außerdem, dass 30 bekannte Probleme schwerwiegender waren als bisher berichtet. OpenAI informierte Mozilla über die Erkenntnisse und schlug Patches vor. Nach Angaben des Unternehmens begann Mozilla kurz darauf, die Fehlerbehebungen einzuspielen.
Für Linux reproduzierte GPT-6 Cyber 1.724 Schwachstellen und entwickelte für 948 davon funktionierende Exploits. OpenAI zufolge waren das mehr als fünfmal so viele wie die 166 Schwachstellen, die GPT-5.6 Sol mit demselben Forschungs-Framework ausnutzte. Das Unternehmen meldete den Betreuern 304 kritische Erkenntnisse samt möglichen Patches und arbeitet daran, weitere Schwachstellen beheben zu lassen.
OpenAI erklärt außerdem, GPT-6 Cyber habe bei der Entwicklung und Validierung von Exploits für eine kritische Schwachstelle in Brotli geholfen, einer Kompressionsbibliothek, die von Node.js und anderer Software verwendet wird. Sicherheitsteams von Cisco in Kalifornien und CodeRabbit setzen das Modell für Schwachstellenforschung und Code-Reviews ein.
OpenAI plant breiteren Zugang für Verteidiger
OpenAI zufolge wird das Modell auch für die eigene Sicherheitsarbeit eingesetzt, darunter kontrollierte Red-Teaming-Kampagnen. Dabei wurden Möglichkeiten identifiziert, Schwachstellen zu verketten, aus MicroVMs auszubrechen und Code auf den zugrunde liegenden Hosts auszuführen. Die Erkenntnisse wurden genutzt, um Software zu patchen, Netzwerkbeschränkungen zu verschärfen und Probleme an Betreuer und Anbieter zu melden.
Das Unternehmen erklärt, Daybreak auf Organisationen jeder Größe, unabhängige Forscher und Open-Source-Betreuer ausweiten zu wollen. Hauptmodelle wie GPT-6 Astra unterstützen Code-Reviews, die Bewertung von Schwachstellen und die Entwicklung von Patches. Daybreak Blue soll verifizierten Verteidigern dabei helfen, Schwachstellen und Fehlerbehebungen zu validieren. Daybreak Red unterstützt mit GPT-6 Cyber eine umfassendere Exploit-Entwicklung und autorisierte Sicherheitstests.
