Anaconda tritt der Open Secure AI Alliance bei, um Risiken durch KI-Agenten und MCP anzugehen

Warum Anaconda auf Risiken bei MCP-Servern verweist

Laut Anaconda greifen KI-Agenten über die Werkzeuge, die sie aufrufen, auf Unternehmensdaten und Unternehmenssysteme zu, und diese Werkzeuge können Sicherheitsrisiken bergen. Das Unternehmen gibt an, dass Enkrypt AI by Anaconda innerhalb von zwei Monaten mehr als 268.000 Tools auf 25.000 Servern des Model Context Protocol (MCP) gescannt hat. Der Scan förderte über 143.000 Schwachstellen zutage, von denen 73 Prozent der Server betroffen sind.

Anaconda versteht das Thema als praktische Frage für Führungskräfte in Unternehmen, die möchten, dass ihre Teams mit Agenten mehr erreichen: Wie lässt sich der Nutzen skalieren, ohne die Kontrolle zu verlieren? Das Unternehmen erklärt, es sichere und steuere seit mehr als zehn Jahren die Open-Source-Software-Lieferkette für Data Science, Machine Learning und KI in Unternehmen und bringe diese Erfahrung in die Allianz ein.

Was die Allianz leistet

Die Open Secure AI Alliance vereint Technologieunternehmen, Forschende und Regierungspartner, um offene Werkzeuge, Standards und Techniken für die Absicherung von KI zu entwickeln und zu teilen. Anaconda nennt unter den Mitgliedern NVIDIA, Microsoft und AWS, die allesamt Partner von Anaconda sind, daneben Cloudflare, Red Hat und weitere Unternehmen aus der Enterprise-Technologie und der Cybersicherheit.

Der Ansatz der Allianz zielt darauf, Organisationen Verteidigungsfähigkeiten an die Hand zu geben, die sie prüfen, anpassen und auf einer von ihnen kontrollierten Infrastruktur betreiben können. Der Umfang deckt den gesamten Agenten-Stack ab: Modelle, die Software, mit der Agenten Aktionen ausführen, sowie die Richtlinien und Kontrollen, die sie steuern.

Anaconda argumentiert, Sicherheit müsse über das Modell selbst hinausreichen. Teams müssten auch die Pakete verstehen, von denen ein System abhängt, die Werkzeuge, die es erreichen kann, die Daten, auf die es zugreifen kann, und die Aktionen, die es ausführen kann. Als Beispiel beschreibt das Unternehmen einen Agenten, der ein Dokument abruft, seinen Plan anhand des Gelesenen ändert und anschließend einen Geschäftsdatensatz aktualisiert. Jeder Schritt mag für sich genommen vernünftig wirken, doch die gesamte Abfolge kann den Agenten dennoch über den vom Unternehmen genehmigten Rahmen hinausführen.

Drei Prioritäten und die Anaconda Platform

Anaconda will nach eigenen Angaben mit anderen Mitgliedern der Allianz an drei Prioritäten arbeiten:

• Agenten über ihre gesamte Entscheidungskette testen. Bewertungsmethoden und Red-Teaming-Techniken verbessern, um Fehler zu finden, die sich über mehrere Schritte hinweg entfalten.
• Die Werkzeuge und MCP-Server absichern, mit denen sich Agenten verbinden. Gemeinsame Ansätze für das Scannen, Prüfen und Zugriffskontrollieren in der KI-Software-Lieferkette voranbringen.
• KI-Richtlinien in Nachweise überführen. Verbessern, wie Organisationen Entscheidungen von Agenten dokumentieren und Vorfälle melden, damit Sicherheits- und Compliance-Teams überprüfen können, welche Kontrollen liefen und was sie erlaubt oder gestoppt haben.

Das Unternehmen verknüpft den Schritt zudem mit seiner Anaconda Platform, die es als vier Fähigkeiten zum Entwickeln, Absichern und Betreiben von KI beschreibt. KI-Arbeitsbereiche nutzen Kilo by Anaconda mit Modellauswahl, vertrauenswürdigen Paketen und Modellen sowie Transparenz über Nutzung und Kosten. Kilo Enterprise ergänzt Modell- und Anbieterkontrollen, Single Sign-on (SSO) und Audit-Logs. KI-Sicherheit und Guardrails setzen auf Enkrypt AI by Anaconda, um Agenten vor der Veröffentlichung einem Red-Teaming zu unterziehen, Guardrails für Tool-Aufrufe von Agenten im Produktivbetrieb durchzusetzen und prüffähige Nachweise vorzuhalten. KI-Orchestrierung bietet reproduzierbare, nachvollziehbare Workflows über Umgebungen hinweg. KI-Artefakte umfassen geprüfte Python-Pakete, kuratierte Modelle und vertrauenswürdige MCP-Server mit Herkunftsnachweis und Schwachstellenverfolgung.

Was das für Unternehmensteams bedeutet

Anaconda erklärt, es unterstütze offene Standards zum Testen von Agenten, zur Prüfung von MCP-Servern und zur Dokumentation von Agentenentscheidungen und wolle seine Erkenntnisse mit der breiteren Community teilen. Das erklärte Ziel: Organisationen sollen KI zu ihren eigenen Bedingungen skalieren können, mit Freiheit für Entwickler und Kontrolle für das Unternehmen, auf Basis offener Werkzeuge und Standards, die die Community prüfen und weiterentwickeln kann.

Für Unternehmen, die offene und proprietäre Modelle, Entwicklungswerkzeuge, Datenplattformen und Infrastruktur mischen, könnten gemeinsame Sicherheitsansätze nach Darstellung des Unternehmens helfen, diese Systeme zu bewerten und zu schützen, ohne die Freiheit bei der Technologiewahl aufzugeben. Die Quelle nennt keinen Zeitplan und keine konkreten Ergebnisse für die Arbeit der Allianz, sodass die praktischen Resultate abzuwarten bleiben.