Block: OpenAIs Daybreak verkürzt Sicherheitsarbeit von Wochen auf Stunden

Ein neuer Teamkollege für die Sicherheitsabteilung

Das Sicherheitsteam von Block nutzt die von OpenAI so genannte OpenAI Defense Factory, in der KI Schwachstellensuche, Erkennung und Reaktion übernimmt. Informationssicherheitschef James Nettesheim beschreibt den Ansatz als "einen neuen Teamkollegen, mit dem man skalieren kann". Von klassischer Automatisierung grenzt er ihn ab: Das Team könne dem System nun "ein recht maßgeschneidertes, mehrdeutiges Problem stellen und es gemeinsam durcharbeiten".

Aufgaben wie die Prüfung eines Softwarefehlers oder das Auswerten eines Logs dauerten früher Tage oder Wochen. Laut der Fallstudie erledigt das Team sie jetzt in einem Bruchteil der Zeit. Beim Feintuning der Erkennung speichert jede Untersuchung ihre rohen Abfragedaten als Beleg. So kann das Team eine vorgeschlagene Änderung an einer Erkennungsregel in unter einer Stunde gegen sieben Monate Produktionstelemetrie erneut durchspielen. Früher hätte das bedeutet, Hunderte alte Fälle von Hand neu abzufragen, und oft unterblieb es, weil es zu lange dauerte.

Auch bei der Modellauswahl geht Block gezielter vor. "Früher haben wir das jeweils neueste Modell genutzt, aber das ist nicht mehr nötig", sagt Nettesheim. Das Team hat auf Basis von Daybreak ein Sicherheits-Framework (Harness) gebaut, das Aufgaben an das passende Modell weiterleitet. Es enthält Schnittstellen, über die Menschen Aufgaben übernehmen und Agenten sich gegenseitig kontrollieren können. Block bewertet das System anhand interner Benchmarks und der Leistung im Praxiseinsatz und leitet Arbeit an eine menschliche Prüfung weiter, wenn das der verantwortungsvolle Weg ist.

Was die Zahlen zeigen

Die folgenden Zahlen stammen von Block und wurden von OpenAI veröffentlicht:

• 50 % mehr Durchsatz bei der Triage.
• 50 % mehr Informationsbeschaffung und Untersuchungen.
• Rund 1.100 Analystenstunden an Untersuchungen pro Quartal durch eine neue autonome Hunting-Funktion.
• Etwa 600 Analystenstunden pro Quartal bei der Triage von Fehlalarmen, die dem Team zurückgegeben wurden.
• 18 Minuten von der Meldung einer grob beschriebenen Schwachstelle bis zum automatisch vorgeschlagenen Patch in aktuellen Red-Team-Übungen.

Nettesheim zufolge unterzieht das autonome System jeden Alarm einer vollständigen, gründlichen Untersuchung aller beteiligten Elemente. "Unser System bearbeitet jeden Alarm, als wäre es der einzige, den wir an diesem Tag haben", sagt er. Die bei Fehlalarmen gesparte Zeit fließt nun in tiefere Untersuchungen und in den verantwortungsvollen Ausbau weiterer Automatisierung.

Angriffe verketten und beheben

Herkömmliche Scan-Werkzeuge melden eine einzelne Schwachstelle isoliert. Laut der Fallstudie hilft Daybreak dem Team, Hypothesen zu Angriffsmustern aufzustellen und sie zu einem vollständigen Kompromittierungspfad von Anfang bis Ende zu verketten. Dabei kommen Schwachstellen zutage, die möglicherweise seit Jahren bestehen.

In einem Fall wirkte ein Alarm auf einem einzelnen Laptop wie ein kleiner Verstoß gegen Richtlinien. Bei der Peer-Review verfolgte das Modell einen Indikator, der nur beiläufig in den Belegen auftauchte, und glich ihn mit den Identitätsprotokollen von Block ab. Dabei kam eine deutlich größere Zahl an Problemen ans Licht. "Aus einem routinemäßigen Endpoint-Alarm wurde die Zerschlagung einer ganzen Kampagne", sagt Nettesheim.

In einer aktuellen Red-Team-Übung erhielt das Modell einige Hinweise zu einem internen System. In etwa zwei Stunden verkettete es SQL-Injection, Rechteausweitung, einen Brückenkopf, das Auslesen von Zugangsdaten und den Sprung auf andere Systeme. Ein menschlicher Red-Teamer bräuchte dafür laut der Quelle typischerweise mehrere Tage.

Bei der Behebung lokalisiert das Team das Problem im Code, ermittelt den Verantwortlichen, schlägt einen Patch vor, bestätigt die Ausnutzbarkeit und prüft die Korrektur, "wobei ein Mensch den Prozess begleitet und die Codeänderungen ausrollt", so Nettesheim. Agenten kennen weder den Kontext einer Organisation noch die Überlegungen hinter früheren Entscheidungen, diese Ebene liefern Menschen. Sobald sich das Urteilsvermögen der KI in der Praxis bewährt habe, sagt er, "werden wir das Risikoniveau schrittweise anheben und sie für sensiblere Systeme einsetzen".

Was das für Verteidiger bedeutet

Nettesheim argumentiert, dass KI die Zeit von der menschlichen Absicht bis zur Handlung verkürzt und der vermeintliche Vorteil von Angreifern bei Tempo und Beweglichkeit schrumpft. Mit Werkzeugen wie Daybreak könnten Verteidiger "Feuer mit Feuer bekämpfen".

Er sieht zudem die Chance, die Zahl der Schwachstellen schon bei ihrer Entstehung zu verringern. Sicherheitsteams könnten dann weniger Zeit mit Patchen und mehr mit vorbeugender, strategischer Arbeit verbringen. Diese Fähigkeiten seien bisher meist sehr prominenten Technologieunternehmen und Regierungen vorbehalten gewesen, sagt er. Nun könnten auch kritische Infrastruktur, Schulen und kleine Unternehmen die Technologie zur Verteidigung ihrer Netzwerke nutzen.