MPCH und Socura testen Kontrollen, die KI-Agenten unter menschlicher Kontrolle halten

Genehmigungen im Sicherheitsbetrieb testen

Socura wird ATLAS, die KI-Autorisierungssteuerung von MPCH, in realen Szenarien des Sicherheitsbetriebs einsetzen. Mit der Plattform soll überprüft werden, dass KI-Agenten kein Gerät isolieren, einen Benutzer blockieren oder eine Systemeinstellung ändern können, ohne dass ein menschlicher Bediener dies genehmigt.

Die Zusammenarbeit verbindet die Expertise von MPCH im Bereich kryptografischer Sicherheit mit Socuras Erfahrung im Cybersecurity-Betrieb. MPCH zufolge soll die Arbeit dabei helfen, ATLAS angesichts neuer Sicherheitsherausforderungen zu evaluieren und einen praktischen Anwendungsfall in einer Umgebung zu schaffen, in der KI-Systeme Bedrohungen erkennen und darauf reagieren können.

Socura bietet Managed-Detection-and-Response-Dienste über ein rund um die Uhr an 365 Tagen im Jahr besetztes Security Operations Centre an. Nach Angaben des Unternehmens erkennt, untersucht und begrenzt das Zentrum Bedrohungen im Auftrag seiner Kunden und löst die Mehrheit der Vorfälle, ohne sie an interne Teams eskalieren zu müssen.

Wie ATLAS KI-Aktionen begrenzen soll

MPCH beschreibt ATLAS als Kontrollebene, die eine kryptografische Autorisierung für agentische KI anwendet. Betreiber können die Grenzen festlegen, innerhalb derer ein KI-System Aktionen ausführen darf. Die Autorisierung wird durchgesetzt, bevor eine Aktion stattfindet.

Die Plattform verfügt über einen Notausschalter, der eine KI-Aktion während der Ausführung stoppen kann, wenn sie diese Grenzen überschreitet. Außerdem unterstützt sie offline signierte Genehmigungen, bei denen die Schlüssel offline an vom Netzwerk getrennten, sicheren Standorten für die kryptografische Speicherung aufbewahrt werden. Laut MPCH bedeutet diese Anordnung, dass weder ein KI-System noch ein Angreifer aus der Ferne die sensibelsten Aktionen eigenständig autorisieren kann.

Eine von Menschen definierte Befugnis bleibt zentral für den Prozess. Überprüfbare Aufzeichnungen liefern zugleich Belege für die Prüfung und Verantwortlichkeit. Nach Angaben von MPCH begegnet dieser Ansatz einer Lücke, die entsteht, wenn KI-Agenten sich vom Beantworten von Fragen zur Ausführung von Aktionen weiterentwickeln.

Warum die Partnerschaft wichtig ist

Die traditionelle Cybersicherheit konzentrierte sich bislang auf den Schutz von Systemen und die Erkennung bösartiger Aktivitäten. MPCH zufolge schafft autonome KI eine zusätzliche Anforderung: Es muss sichergestellt werden, dass ein System nicht über die ihm erteilten Befugnisse hinaus handeln kann.

„KI verändert die Arbeitsweise von Unternehmen, aber Sicherheit und Autorisierung dürfen nicht nachträglich berücksichtigt werden“, sagte Miles Parry, Gründer und CEO von MPCH. Die Zusammenarbeit mit erfahrenen Cybersecurity-Teams ermögliche es MPCH, ATLAS im realen Betrieb zu testen und sich auf tatsächliche Sicherheitsprobleme zu konzentrieren, fügte er hinzu.

Socura-CEO Andy Kays sagte, KI-Agenten könnten über ihre vorgesehenen Befugnisse hinaus handeln und dadurch möglicherweise sensible Daten offenlegen oder kritische Abläufe stören. Socura-Gründer und CTO Jamie Brummell erklärte, die menschliche Kontrolle aufrechtzuerhalten sei entscheidend. Das Unternehmen werde untersuchen, wie ATLAS eine sichere und verantwortungsvolle Einführung von KI unterstützen könne.

Für MPCH bietet der Test ein praktisches Umfeld, in dem das Autorisierungsmodell von ATLAS bewertet werden kann. Für Organisationen, die einen KI-gestützten Sicherheitsbetrieb erwägen, bietet der vorgeschlagene Ansatz auf Grundlage der von den Unternehmen beschriebenen Kontrollen eine Möglichkeit, sensible Aktionen von einer menschlichen Genehmigung abhängig zu machen.