OpenAI arbeitet mit Hacktron an Sicherheitstests
OpenAI arbeitet mit Hacktron zusammen, um Schwachstellen in seinen Systemen aufzuspüren. Im Mittelpunkt der gemeinsamen Tests stehen die Verbindungen zwischen OpenAI-Systemen und Diensten von Drittanbietern. Außerdem erhält Hacktron über Daybreak Red erweiterten Zugang zu den Frontier-Modellen von OpenAI.
- OpenAI und Hacktron testen gemeinsam besonders wichtige Sicherheitsbereiche.
- Im Mittelpunkt stehen Interaktionen mit Diensten von Drittanbietern.
- Hacktron erhält über Daybreak Red erweiterten Zugang zu den Frontier-Modellen von OpenAI.
- OpenAI erklärte, die Prämien für sein Bug-Bounty-Programm erhöht zu haben und mit den Forschern von Cathedral zusammenzuarbeiten.
Gemeinsame Tests wichtiger Bereiche
Ingenieure von OpenAI und Sicherheitsforscher von Hacktron werden gemeinsam besonders wichtige Bereiche für die Tests auswählen. Im Mittelpunkt steht, wie die Systeme von OpenAI mit Diensten von Drittanbietern interagieren. Nach Angaben des Unternehmens gewinnt dieser Bereich an Bedeutung, da KI-Agenten Dienste auf neue Weise miteinander verbinden.
OpenAI erklärte, die Zusammenarbeit mit Hacktron ermögliche eine eingehendere Prüfung dieser Verbindungen. Die Ergebnisse sollen dazu beitragen, die eigenen Schutzmaßnahmen zu verbessern. Das Unternehmen bezeichnete die Partnerschaft als Teil seiner Bemühungen, die Cyberabwehr mit Frontier-KI zu beschleunigen, bei der Suche und Behebung von Schwachstellen in den eigenen Systemen aber mit derselben Dringlichkeit vorzugehen.
Sicherheitsforschung von Hacktron
OpenAI erklärte, das Unternehmen sei durch sein Security Bug Bounty-Programm auf Hacktron aufmerksam geworden. Ausschlaggebend sei die Bedeutung der Schwachstellen gewesen, die die Forscher des Unternehmens entdeckt und gemeldet hätten. Hacktron entwickelt KI-Agenten für Code-Reviews, Penetrationstests und Red-Teaming.
Nach Angaben von OpenAI hat die Forschung von Hacktron Schwachstellen darin aufgedeckt, wie Anwendungen, Cloud-Infrastrukturen und Identitätssysteme miteinander interagieren. Diese Arbeit zeige, was Sicherheitsingenieure erreichen können, wenn sie ihre Arbeit rund um KI aufbauen, um schneller voranzukommen und anspruchsvollere Forschungsprojekte zu verfolgen, erklärte das Unternehmen.
Im Rahmen der Partnerschaft erweitert OpenAI über Daybreak Red den Zugang von Hacktron zu seinen Frontier-Modellen. Die Quelle enthält keine weiteren Details zum Zugang oder zu den Bereichen, die getestet werden sollen.
Teil einer umfassenderen Sicherheitsinitiative
Die Partnerschaft folgt auf weitere Schritte, die OpenAI als Teil seiner Sicherheitsarbeit beschrieben hat. Anfang dieser Woche kündigte das Unternehmen an, dass die Forscher von Cathedral bei seinem nächsten Security Sprint mit den eigenen Teams zusammenarbeiten werden. OpenAI erklärte außerdem, die Prämien für sein Bug-Bounty-Programm erhöht zu haben, um unabhängige Forscher stärker dazu zu bewegen, nach Schwachstellen zu suchen, die bei den eigenen Tests möglicherweise übersehen wurden.
OpenAI dankte Hacktron und anderen unabhängigen Forschern für das Auffinden und Melden von Schwachstellen, die dazu beitragen können, den Schutz seiner Nutzer zu verbessern. Forscher können prüfen, welche Systeme vom Programm abgedeckt sind, oder über das Security Bug Bounty-Programm von OpenAI einen Fund melden.
Für Nutzer bedeutet die Ankündigung, dass OpenAI seine Bemühungen zur Untersuchung von Systemverbindungen und Interaktionen mit Drittanbietern um einen spezialisierten externen Forschungspartner erweitert. Nach eigenen Angaben will das Unternehmen die gewonnenen Erkenntnisse nutzen, um seine Schutzmaßnahmen zu verbessern.
