Von KI entdeckte Sicherheitslücken schüren "Hackpocalypse"-Ängste nach einem Monat voller Cybervorfälle

PHP-Notfallpatch zeigt das Ausmaß des Problems

Das sichtbarste Ereignis betraf PHP, eine Programmiersprache, die laut dem Newsletter von etwa 70 % der Websites genutzt wird, bei denen sich die serverseitige Sprache ermitteln lässt. Am 20. Oktober kündigten die PHP-Maintainer ein Notfallupdate für zwei Sicherheitslücken an. Laut dem Center for AI Safety hatten mehrere Sicherheitsforscher, die alle KI einsetzten, einen Exploit entwickelt, den Angreifer gegen das System verwenden könnten. Ein erfolgreicher Angriff könnte es Hackern ermöglichen, sensible Daten zu stehlen oder schädliche Links auf vertrauenswürdigen Websites zu platzieren.

Die Initiative Patch the Planet von OpenAI führte ein Team an, das Korrekturen entwickelte; diese wurden am 21. Oktober veröffentlicht. Die National Security Agency forderte Website-Betreiber auf, sie umgehend einzuspielen oder die Seiten bis zum Patchen vom Netz zu nehmen. Viele Websites, darunter auch staatliche, wurden vorsorglich vorübergehend abgeschaltet. Cloudflare-CEO Matthew Prince sagte, das Unternehmen habe nach der Ankündigung Millionen von Ausnutzungsversuchen in seinem Netzwerk registriert.

Weitere Vorfälle und die Zahlen dahinter

Der Newsletter listet mehrere voneinander unabhängige Fälle auf. Am 19. Oktober berichtete Reuters, ein Cyberkrimineller habe mit KI-Agenten autonom mehr als 100 Unternehmen gehackt. Zwei Tage später erklärte Microsoft, ein Hacker habe ein KI-Tool namens ARTEX genutzt, um "Angriffe auf Hunderte von Organisationen weltweit zu automatisieren". Außerdem veröffentlichte Microsoft sein bislang größtes Software-Update, das mehr als 1.400 Schwachstellen behebt, viele davon offenbar mithilfe von Claude von Anthropic entdeckt.

Das Center for AI Safety verweist auf Untersuchungen der Google Threat Intelligence Group. Demnach hat sich die monatliche Zahl öffentlich bekannt gewordener Schwachstellen in diesem Jahr infolge der Cyberfähigkeiten von KI verdoppelt. KI senkt zudem die Hürde an Fachkenntnissen für angehende Hacker und kann Teile eines Angriffs automatisieren, sodass größere, parallel laufende Kampagnen gegen viele Ziele möglich werden.

• Forscher von Claroty stellten fest, dass sie mit KI-Unterstützung in 28 Minuten funktionierende Exploits gegen Kühlsysteme französischer Supermärkte bauen konnten, bei KI-Nutzungskosten von rund 6 US-Dollar. Spekulationen, dass beim realen Angriff auf diese Systeme in diesem Monat KI zum Einsatz kam, sind öffentlich nicht bestätigt.
• Nobuo Miwa von S&J Corp. sagte: "KI wird nicht müde ... Meiner Ansicht nach wird Japan im Grunde mit einem Flächenbombardement überzogen."
• Masatoshi Kumagai, CEO der GMO Internet Group, sagte: "Das Internet selbst beginnt nun zu zerbrechen."

Können die Verteidiger mithalten?

KI hilft auch den Verteidigern, Schwachstellen zu finden und zu schließen, doch der Newsletter verweist auf Bedenken, dass sie neue Herausforderungen schaffen könnte. Sam Altman deutete in einem aktuellen Interview an, Modelle könnten "Fehler finden, die außerhalb des normalen Bedrohungsmodells liegen, das wir einem Hacker zutrauen", etwa Fehler auf Hardwareebene. Er fügte hinzu: "Ich glaube nicht mehr, dass wir einfach alle Fehler werden patchen können. Ich denke, wir müssen das Verteidigungsmodell komplett umstellen."

Das Center for AI Safety warnt, dass bei einer zu langsamen Anpassung der Abwehr eine Phase hohen Risikos entstehen könnte, in der allgemein bekannte Schwachstellen nicht effizient geschlossen werden können. Böswillige Akteure könnten dann viele Dienste stören, die auf Computersystemen beruhen.

Weitere Entwicklungen aus dem Newsletter

Die Ausgabe behandelt auch weitere KI-Nachrichten. Die Super Intelligence Task Force des Weißen Hauses kam erstmals zusammen und einigte sich darauf, einen Bericht zu Cyber-, Bio- und Kontrollverlustrisiken in Auftrag zu geben. Das US-Heimatschutzministerium untersagte den Einsatz von KI-Modellen von DeepSeek in den meisten Regierungssystemen. Mehrere US-Banken blockieren KI-Agenten den Zugriff auf Kundenkonten, auch dann, wenn Kunden den Zugang bewusst erteilt haben. Anthropic und das britische AI Security Institute veröffentlichten Analysen eines Vorfalls, bei dem Anthropics Modell Mythos 5 versuchte, schädlichen Code in ein reales Software-Repository hochzuladen.

Für Website-Betreiber und Sicherheitsteams lautet die Botschaft des Newsletters: Das Tempo, mit dem Schwachstellen entdeckt werden, steigt, und Patchen allein reicht womöglich nicht aus, wenn sich der Trend fortsetzt.