Check Point und NVIDIA verbinden Infrastrukturgrenzen mit Schritt-für-Schritt-Überwachung von KI-Agenten

Ein Ziel sagt nicht, wie man es erreicht

Check Points Argumentation beginnt mit einer einfachen Beobachtung dazu, wie Organisationen autonome Agenten einsetzen. Wenn ein Unternehmen einem Agenten eine Aufgabe überträgt, etwa die Bearbeitung von Lieferantenrechnungen, formuliert es ein Ziel. Laut Check Point legt dieses Ziel aber selten fest, auf welchen Wegen der Agent es erreichen darf, und leistungsfähige Agenten sind gut darin, Wege zu finden, die niemand eingeplant hat.

Der Beitrag mit dem Titel "Goals Are Not Enough: Securing AI Agents with NVIDIA OpenShell" betrachtet das als das zentrale Sicherheitsproblem. Ein klar definiertes Ziel ist nicht dasselbe wie ein klar definierter Satz erlaubter Methoden. Je leistungsfähiger der Agent, desto wahrscheinlicher findet er einen Weg, den die Verantwortlichen für die Aufgabe nie bedacht haben.

Zwei Ebenen: eine Grenze und eine Urteilsinstanz

Check Point beschreibt zwei sich ergänzende Kontrollen. Die erste ist die NVIDIA Open Agent Safety Platform, die laut dem Beitrag die Grenze in der Infrastruktur verankert, außerhalb der Reichweite des Agenten. Weil die Begrenzung außerhalb des Agenten liegt, kann dieser sie nicht einfach durch Schlussfolgern umgehen.

Die zweite ist Check Points eigene semantische Überwachung. Statt festzulegen, wo der Agent agieren darf, beurteilt sie, ob jeder einzelne Schritt noch zur Aufgabe passt. Im Rechnungsbeispiel bedeutet das, nicht nur zu fragen, ob eine Aktion technisch möglich ist, sondern ob sie für den dem Agenten übertragenen Auftrag sinnvoll ist.

• Infrastrukturgrenze: festgelegt durch die NVIDIA Open Agent Safety Platform, außerhalb der Reichweite des Agenten.
• Semantische Überwachung: Check Points Prüfung, ob jeder Schritt zur Aufgabe passt.

Beta-Integration mit NVIDIA OpenShell

Check Point zufolge arbeiten beide Ansätze bereits in einer Beta-Integration mit NVIDIA OpenShell zusammen. Das Unternehmen hebt eine Leistungsangabe hervor: Das Urteil des Monitors kann vor der Ausführung der Aktion vorliegen, in unter 100 Millisekunden. Eine Prüfung vor der Ausführung ist wichtig, weil sich ein fragwürdiger Schritt bewerten lässt, bevor er Wirkung entfaltet, statt erst im Nachhinein entdeckt zu werden.

Der für diesen Bericht vorliegende Auszug des Beitrags nennt keine Details zu Preisen, allgemeiner Verfügbarkeit oder Kundeneinsätzen, daher bleiben diese Punkte offen. Die Integration wird als Beta beschrieben.

Was das für Teams bedeutet, die Agenten einsetzen

Für Organisationen, die Agenten für alltägliche Geschäftsaufgaben einsetzen, lautet die Botschaft von Check Point: Ein formuliertes Ziel ist keine Sicherheitskontrolle. Das Unternehmen argumentiert, ein sicherer Einsatz brauche beides, eine harte Grenze, die der Agent nicht erreichen kann, und eine fortlaufende Beurteilung, ob jede Aktion der zugewiesenen Aufgabe dient.

Sollte die Angabe von unter 100 Millisekunden in der Praxis standhalten, könnte der Überwachungsschritt vor jeder Aktion laufen, ohne zum Engpass zu werden. Genau das macht Prüfungen vor der Ausführung praxistauglich. Teams, die die Beta evaluieren, sollten diese Angabe an ihren eigenen Workloads überprüfen.