OpenAI plant neuen Security-Sprint mit Cathedral und deutlich höhere Prämien im Bug-Bounty-Programm

Cathedral ist beim nächsten Sprint dabei

Laut OpenAI bringt der neue Sprint neue Forschende und Sicherheitspartner mit den eigenen Teams des Unternehmens zusammen. Ziel ist es, mit den Modellen von OpenAI die eigenen Systeme zu testen und zu stärken.

Als Partner nannte das Unternehmen Cathedral. Die Forschenden von Cathedral setzen die Modelle von OpenAI gemeinsam mit OpenAI-Mitarbeitenden ein, um die Abwehrmaßnahmen des Unternehmens auf die Probe zu stellen. Cathedral bringe "differenzierte Expertise und Ansätze beim Aufspüren von Schwachstellen" mit und helfe, die Plattformen zu schützen, so OpenAI.

Außerdem kündigte OpenAI Verbesserungen am Security-Bug-Bounty-Programm an, darunter eine Erhöhung der Prämien für kritische Funde auf mehr als das Vierfache. Das Unternehmen will, dass Forschende seine Annahmen hinterfragen und helfen, sowohl die Systeme als auch die Methoden zu ihrer Verteidigung zu stärken.

Was der letzte Sprint umfasste

OpenAI beschreibt das Vorhaben als Teil eines fortlaufenden Vorstoßes, mit KI kontinuierlich Schwachstellen zu finden und zu beheben. Als Beleg dafür, was der Ansatz leisten kann, verweist das Unternehmen auf den vorherigen Sprint.

Darin setzte das Unternehmen 25 % seiner Produktentwickler dafür ein, Schwachstellen in den eigenen Systemen zu finden und zu beheben. Mit Codex untersuchten die Entwickler Funde, reproduzierten Sicherheitslücken in isolierten Umgebungen und bereiteten Patches zur Prüfung vor.

OpenAI baut nach eigenen Angaben auf dieser Arbeit auf, weil klassische Cyberabwehr allein nicht mehr ausreiche. Jüngste Vorfälle in der Branche zeigten, wie schnell Bedrohungen entstehen können und wie wichtig es sei, kontinuierliche Verteidigungsschleifen aufzubauen, die Schwachstellen finden und beheben, bevor Angreifer es tun.

Zugang für Verteidiger und geteilte Erkenntnisse

Damit das Zeitfenster für die Verteidiger offen bleibe, müssten Organisationen modernste Cyberfähigkeiten nutzen, um ihre Systeme zu härten, so OpenAI. Das Unternehmen setzt seine leistungsfähigsten Modelle ein, um die eigene Abwehr zu stärken, und stellt sie Daybreak-Kunden zur Verfügung.

Für Verteidiger an vorderster Front, die essenzielle Dienste und digitale Infrastruktur schützen, hat OpenAI über sechs Monate subventionierten Zugang im Umfang von 1 Milliarde Dollar zugesagt.

Außerdem teilt das Unternehmen seine Architektur und die Erkenntnisse aus dem letzten Sprint sowie einen Leitfaden, wie sich Cyberverteidiger in Industrie und Regierung stärken lassen.

Was das für Verteidiger bedeutet

Für Sicherheitsteams deutet die Ankündigung auf einen breiteren Zugang zu den leistungsfähigsten Modellen von OpenAI über Daybreak hin, flankiert von der Zusage über 1 Milliarde Dollar an subventioniertem Zugang für jene, die essenzielle Dienste und digitale Infrastruktur schützen. Für unabhängige Forschende bieten die höheren Prämien für kritische Funde im Security-Bug-Bounty-Programm einen stärkeren Anreiz, schwerwiegende Lücken zu melden.

OpenAI will seine Modelle weiterentwickeln, damit die eigenen Systeme stärken und den Zugang für vertrauenswürdige Verteidiger ausweiten. Das Zeitfenster für die Verteidiger offen zu halten, "erfordert Maßnahmen in der gesamten Branche, und diese Arbeit muss jetzt beginnen", so das Unternehmen.