Microsoft baut Project Perception aus, um KI-Agenten als Insider abzusichern

Vom externen Angreifer zum KI-Insider

In einem LinkedIn-Beitrag verknüpfte Satya Nadella die Neuigkeit mit einem früheren Text, in dem er erläutert hatte, warum Modelle als Insider-Risiken behandelt werden sollten. Sicherheitskontrollen müssten außerhalb des Modells selbst liegen, sagte er, und genau diese Idee setze Microsoft nun mit dem Ausbau von Project Perception um.

Hayete Gallot, die den begleitenden Beitrag verfasst hat, beschrieb die Verschiebung des Schwerpunkts. Ihr zufolge hat das Aufkommen leistungsfähiger Cyber-Modelle dazu geführt, dass sich Organisationen auf Angreifer konzentrieren, die KI für ihre Kampagnen nutzen. Unternehmen müssten sich aber auch mit den Agenten befassen, die bereits innerhalb ihrer Mauern im Einsatz sind, so Gallot. Sie nennt sie den AI Insider.

Gallot sagte, Agenten seien inzwischen im großen Maßstab im gesamten Unternehmen aktiv und verfügten oft über mehr Rechte, als sie benötigten. Sie betonte, dass sie nicht bösartig seien, sondern darauf trainiert, Ergebnisse zu liefern, nicht aber die Normen oder das Urteilsvermögen einer Organisation zu befolgen.

Was Perception leistet und was sich ändert

Microsoft hatte Perception im Juli erstmals vorgestellt. Es wird als agentisches Sicherheitssystem beschrieben, das den neuen Cyber-Stack des Unternehmens und Teams aus roten, blauen und grünen Agenten nutzt. Es soll Verteidigern helfen, schnell zu handeln und sich zugleich gegen KI-gestützte Angriffe von außerhalb des Unternehmens zu wehren.

Der neue Schritt erweitert diesen Cyber-Stack nach innen. Laut Gallot unterstützt Microsoft Verteidiger dabei, AI Insider abzusichern, indem deterministische Kontrollen auf nicht deterministische Intelligenz angewendet werden. Nadella zufolge sollen die neuen Funktionen helfen, das Agentenrisiko kontinuierlich zu bewerten, Berechtigungen anzupassen und Bedrohungen einzudämmen.

Gallot erklärte, der Schutz des AI Insiders erfordere mehrere Ebenen:

• Identität
• Berechtigungen
• Daten
• Endgeräte
• Netzwerk
• Cloud
• Laufzeit

Die Arbeitsteilung beschrieb sie so: Agentische Sicherheit liefere Geschwindigkeit, Fachleute lieferten das Urteilsvermögen. Microsoft zufolge kann Perception Verteidigern helfen, mit derselben Geschwindigkeit zu arbeiten wie die Systeme, vor denen sie schützen.

Erste Reaktionen und offene Fragen

Der Beitrag zog Kommentare von Sicherheits- und Produktexperten an. Ein Kommentator sagte, eine zentrale Sorge sei bislang gewesen, wie leicht Berechtigungen die Aufgaben überdauern, für die sie vergeben wurden. Eine Neubewertung des Zugriffs anhand dessen, was ein Agent tatsächlich tut, könne daher sehr wichtig sein.

Andere warfen praktische Fragen auf. Einer wollte wissen, ob Berechtigungsänderungen automatisch erfolgen oder ob weiterhin ein Mensch jede einzelne freigibt. Ein anderer verwies auf das Argument der Modellvielfalt aus Nadellas Essay: Aufsichtsagenten, die auf derselben Modellfamilie laufen wie die überwachten Agenten, könnten dieselben blinden Flecken haben. Der Quelltext beantwortet diese Fragen nicht, und die Punkte stammen von Kommentatoren, nicht von Microsoft.

Was das für Unternehmen bedeutet

Die Ankündigung zeigt, dass Microsoft im Unternehmen eingesetzte Agenten als eigenständiges Sicherheitsproblem betrachtet, getrennt von externen KI-gestützten Angriffen. Für Organisationen, die Agenten im großen Maßstab betreiben, lautet der erklärte Ansatz, Kontrollen über Identität, Berechtigungen, Daten und Laufzeit zu schichten und diese Kontrollen außerhalb des Modells zu halten.

Gallot schloss mit der Botschaft, es dürfe keine Entscheidung zwischen Innovation und Sicherheit geben. Zu Preisen, Verfügbarkeitsterminen oder technischen Spezifikationen der neuen Funktionen enthält die Quelle keine Angaben. Das muss Microsoft noch klären.