Künstliche Intelligenz, aktuell.
Direkt aus den Originalmeldungen.

Fünf Sicherheitserkenntnisse für KI-Agenten von All Day AI 2026

19. November 2026, 20:52Von der KI Nachrichten RedaktionQuelle: Anaconda
Fünf Sicherheitserkenntnisse für KI-Agenten von All Day AI 2026
Bild: Anaconda

Sicherheitsexperten auf der All Day AI Conference 2026 forderten strikte Grenzen für KI-Agenten, deren Einhaltung außerhalb der Modelle kontrolliert werden soll. Ihre Empfehlungen umfassen Identitäten, Sandboxing, Laufzeitprüfungen, Transparenz in der Lieferkette und die Priorisierung von Schwachstellen.

Das Wichtigste in Kürze
  • Grenzen für Agenten außerhalb des Modells und seiner Kontrolle durchsetzen.
  • Isolierte Sandboxes, begrenzte Zugangsdaten und standardmäßig verweigerten ausgehenden Datenverkehr einsetzen.
  • Artefakte, einschließlich Modellgewichten, zur Laufzeit signieren und hashen.
  • Modelle, Daten, Plugins und MCP-Server als Komponenten der Lieferkette erfassen.
  • Ausgelieferte Software reduzieren, bevor Schwachstellen priorisiert werden.

Sicherheitsgrenzen dürfen nicht vom Agenten abhängen

Die Vorträge zur Sicherheit fanden am 22. Oktober auf der All Day AI statt. Anaconda bezeichnete die Veranstaltung als eine herstellerneutrale Online-Konferenz, die von Mitarbeitern von Anaconda und Kilo unter der Leitung von Brian Turcotte, einem Senior Developer Relations Engineer bei Anaconda, organisiert wurde.

Chris Hughes, Gründer von Resilient Cyber, erklärte in der Keynote, dass Alignment und Sicherheit unterschiedliche Probleme lösen. „Alignment (…) senkt die Häufigkeit, mit der Agenten Fehler machen, aber Sicherheit begrenzt die Kosten. Und wir brauchen beides“, sagte Hughes.

Er stellte auch den Nutzen routinemäßiger menschlicher Freigaben infrage. Unter Berufung auf eine Zahl, die er Anthropic zuschrieb, sagte Hughes, dass Nutzer 93% der Claude Code-Berechtigungsabfragen genehmigen. Nutzer seien ein Engpass, wenn sie mit der Aktivität der Agenten nicht Schritt halten könnten, sagte er. Ablehnungen und Klassifizierer seien „im Wesentlichen nur Bodenschwellen“.

Zu seinen vorgeschlagenen Kontrollen gehören eine eindeutige Identität für jeden Agenten, nur bei Bedarf injizierte Zugangsdaten, als Code formulierte Richtlinien, ein eingeschränkter ausgehender Netzwerkzugriff und eine Sandbox. Das zentrale Prinzip lautet, dass diese Grenzen von der Software rund um das Modell durchgesetzt werden sollten, statt darauf zu vertrauen, dass das Modell Anweisungen befolgt.

Sandboxing und Laufzeitprüfungen begrenzen Angriffswege

Madhu Akula, ein unabhängiger Sicherheitsingenieur, behandelte Agenten als nicht vertrauenswürdige Workloads und wandte Praktiken der Containersicherheit an, darunter das Prinzip der geringsten Rechte, Isolation auf Kernel-Ebene und Regeln für ausgehenden Netzwerkverkehr. Seiner Ansicht nach sollten Dateizugriffe, ausgehender Datenverkehr, Zugangsdaten und Überwachung außerhalb der Sandbox kontrolliert werden, weil ein Agent, der eine Kontrolle ändern kann, diese abschwächen oder deaktivieren könnte.

In einer Live-Demonstration stahl eine schädliche Abhängigkeit SSH-Schlüssel von einem Entwickler-Laptop, übermittelte sie an einen Command-and-Control-Server, sammelte API-Schlüssel aus der Umgebung und folgte den Anweisungen in einer manipulierten README-Datei, um Zugangsdaten zu veröffentlichen und Dateien zu löschen. Innerhalb einer isolierten Sandbox mit einem Zugangsdaten-Broker und standardmäßig verweigertem ausgehendem Datenverkehr wurde die Angriffskette in jeder Phase blockiert.

Akula zeigte außerdem, wie ein Agent eine SSRF-Schwachstelle in einem Proxy für eine Artefakt-Registry nutzen konnte, um das Internet zu erreichen. Das Beispiel unterstrich Anacondas übergeordneten Punkt, dass Paketquellen zur Angriffsfläche eines Agenten gehören.

RanjithKumar Ragavan von T-Mobile beschrieb eine andere Verteidigungsebene. T-Mobile prüft Feature-Module und KI-Modelle auf den Geräten, bevor sie auf 53 Millionen Geräten ausgeführt werden. Dateien werden an der Quelle signiert, ihre SHA-256-Hashes in einer vertrauenswürdigen Registry registriert und bei jedem Laden der Dateien geprüft. Fehlgeschlagene Prüfungen verhindern die Ausführung. Ein serverseitiger Notausschalter und ein automatisches Rollback ermöglichen eine Reaktion, wenn sich ein signiertes Artefakt später als unsicher erweist.

Die KI-Lieferkette braucht Inventar und Priorisierung

Hasan Yasar vom Software Engineering Institute der Carnegie Mellon University ordnete KI-Systeme als Software-Lieferketten ein. Er identifizierte vier Ebenen: Basismodelle und vortrainierte Gewichte, Daten und interne Retrieval-Speicher, Agentenfähigkeiten, Plugins und Model Context Protocol-Server sowie die Laufzeitumgebung.

Seine DevSecOps-Pipeline umfasst die Bereinigung von Daten, die Zurückweisung unsicherer Dateiformate wie Python-Pickle, automatisiertes Red Teaming und das Hashen von Modellgewichten bei der Erstellung einer KI-Stückliste. Yasar sagte, das Inventar könne Digests von Modellgewichten, die Herkunft von Datensätzen, Hashes von System-Prompts und Identitäten von MCP-Servern enthalten. „Wenn Sie nicht wissen, aus welchen Komponenten Ihre Systeme bestehen, können Sie nichts davon aufbauen. Kennen Sie also zuerst Ihr System“, sagte er.

Russ Andersson empfahl, das Patchen auf Risiken auszurichten und mit Security Technical Implementation Guide-Scans die Konfigurationen zu prüfen. Sein Ansatz beginnt damit, die Menge der zu schützenden Software zu reduzieren: Produktion scannen, nicht verwendete Komponenten entfernen und den Rest anhand der Angriffsfläche und von Ausnutzungsnachweisen statt allein nach dem Schweregrad bewerten.

Für Nutzer und Plattformteams ergibt sich daraus eine praktische Checkliste. Agenten sollten mit begrenzten Identitäten und Zugangsdaten ausgestattet werden, Sandbox- und Netzwerkregeln müssen außerhalb ihrer Reichweite bleiben, jedes Artefakt sollte zur Laufzeit geprüft werden, und bei fehlgeschlagenen Prüfungen muss die Ausführung standardmäßig abgebrochen werden. Fähigkeiten und MCP-Server sollten als Abhängigkeiten erfasst werden. Außerdem sollte der Umfang der ausgelieferten Software reduziert werden, bevor die verbleibenden Komponenten priorisiert werden. Anaconda zufolge unterstützt sein Angebot AI Security & Guardrails über Enkrypt AI by Anaconda Tests von Modellen, Agenten und MCP, Schutzmechanismen zur Laufzeit, Zugriffsrichtlinien und Compliance-Nachweise. Diese ergänzen die von Kundenteams betriebenen Kontrollen für Identität, Sandbox und Netzwerk.

Ähnliche Meldungen

Anaconda: Zwei Supply-Chain-Angriffe auf LiteLLM erreichten den kuratierten Kanal nie
Sicherheit und Ethik20. November 2026, 02:41

Anaconda: Zwei Supply-Chain-Angriffe auf LiteLLM erreichten den kuratierten Kanal nie

Keine der beiden kompromittierten LiteLLM-Versionen hat es in die kuratierten Python-Paketkanäle von Anaconda geschafft, sagt das Unternehmen und verweist auf eine…

GitLab warnt: Claude-Code-Einstellungsdatei kann Geheimnisse offenlegen
Sicherheit und Ethik11. November 2026

GitLab warnt: Claude-Code-Einstellungsdatei kann Geheimnisse offenlegen

GitLab hat einen Leitfaden veröffentlicht, um Geheimnisse aufzuspüren und zu entfernen, die über die Datei .claude/settings.local.json von Claude Code offengelegt werden…

Claude-Code-Einstellungen legten 1.379 Geheimnisse in öffentlichen GitHub-Dateien offen
Sicherheit und Ethik10. November 2026, 16:59

Claude-Code-Einstellungen legten 1.379 Geheimnisse in öffentlichen GitHub-Dateien offen

Die Genehmigungseinstellungen von Claude Code legten laut einer von The Hacker News berichteten Untersuchung des Sicherheitsunternehmens Apiiro in 1.122 öffentlichen…