NVIDIA erläutert Koreas Vorstoß für sichere agentische KI

Sicherheitskontrollen für autonome Agenten

Je mehr Aufgaben KI-Agenten übernehmen, desto stärker sind sie laut NVIDIA sowohl auf leistungsfähige offene Modelle als auch auf eine parallel dazu weiterentwickelte Sicherheit angewiesen. Hyundai Motor Group prüft NemoClaw-Baupläne von NVIDIA und die Laufzeitumgebung NVIDIA OpenShell, während das Unternehmen Ansätze für agentische KI evaluiert.

OpenShell ist eine zentrale Komponente der NVIDIA Open Agent Safety Platform. Die Laufzeitumgebung nutzt eine abgeschottete Ausführung und richtlinienbasierte Kontrollen, um sensible Daten zu schützen, den Zugriff auf Unternehmenstools zu verwalten und die Aktionen autonomer Agenten zu steuern. Diese Funktionen sollen Risiken begegnen, die entstehen, wenn Agenten Aufgaben in verschiedenen Unternehmenssystemen ausführen können.

AIM Intelligence verbindet Laufzeitkontrollen mit Bedrohungserkennung

AIM Intelligence, ein koreanisches Unternehmen für KI-Sicherheit, integriert seine Agenten-Kontrollplattform Starfort mit NVIDIA OpenShell. Der Ansatz der Unternehmen soll die Zugriffskontrollen von OpenShell zur Laufzeit mit den Fähigkeiten von Starfort verbinden, schädliche Anweisungen und Datenlecks zu erkennen.

AIM Intelligence prüft außerdem einen vorläufigen Proof of Concept für den öffentlichen Energiesektor. Laut NVIDIA könnte die Technologie in Unternehmens-, Industrie- und Robotikumgebungen eingesetzt werden. Die Ankündigung enthält keine Angaben zum Zeitplan oder Umfang des möglichen Proof of Concept.

LG AI Research öffnet Zugang zu K-EXAONE-2.5

Auf Modellebene öffnet LG AI Research den Zugang zu einer Programmierschnittstelle für K-EXAONE-2.5. Das Modell wurde anhand von NVIDIA-Nemotron-Datensätzen entwickelt, darunter Nemotron-Personas-Korea.

Nemotron-Personas-Korea ist ein offener Datensatz mit 7 Millionen vollständig synthetischen koreanischen Personas. Laut NVIDIA basieren die Personas auf offiziellen koreanischen Statistiken. Dadurch können Entwickler von Modellen Trainingsdaten und Evaluierungen in koreanischen Kontexten verankern.

NVIDIA Nemotron ist eine Familie offener Modelle, Datensätze und Techniken, die Entwicklern beim Aufbau spezialisierter und effizienter KI-Agenten helfen soll. Für Nutzer und Organisationen in Korea deutet die Ankündigung auf eine Kombination aus lokal relevanten Modellressourcen und Kontrollen zur Steuerung des Agentenverhaltens hin. Die Beispiele von NVIDIA zeigen außerdem, dass die Technologien in den Bereichen Automotive, Unternehmen, Energie, Industrie und Robotik geprüft werden.