AWS stellt Framework mit sieben Ebenen für produktionsreife KI-Agenten vor
AWS hat eine Referenzarchitektur mit sieben Ebenen veröffentlicht, die Multi-Agenten-KI-Anwendungen vom Proof of Concept bis zum produktiven Einsatz in großem Maßstab bringen soll. Das Pluggable Agentic AI Framework trennt Daten, Modelle, Orchestrierung, Sicherheit, Anwendungen, Observability und den laufenden Betrieb in kombinierbare Ebenen.
- AWS hat eine Referenzarchitektur mit sieben Ebenen für Multi-Agenten-KI-Anwendungen veröffentlicht.
- Die Ebenen umfassen Daten und Wissen, Modelle und Inferenz, Orchestrierung, Sicherheit und Leitplanken, Anwendung, Observability sowie agentischen Betrieb.
- AWS empfiehlt begrenzte Autonomie, eine zentrale Agenten-Suche und eine fein abgestufte Zugriffskontrolle.
- Eine kontinuierliche Evaluierung soll Qualitäts- und Sicherheitsregressionen nach dem Start erkennen.
Ein modularer Bauplan für Unternehmensagenten
AWS zufolge schließt das Framework die Lücke zwischen einem Agenten, der eine Aufgabe demonstrieren kann, und einem Agenten, der unter Produktionslast, Kostendruck und Sicherheitsprüfungen zuverlässig arbeitet. Das Unternehmen argumentiert, dass Teams Routing-Logik, Leitplanken und Observability häufig separat neu entwickeln und diese Funktionen oft erst nach der Entwicklung des Agenten ergänzen.
Das Framework definiert einen stabilen Vertrag für jede seiner sieben Ebenen. AWS beschreibt die Architektur als kombinierbar. Die in der Referenzimplementierung gezeigten Dienste und Technologien sind demnach nicht zwingend vorgeschrieben. Unternehmen können sie durch Alternativen ersetzen, die zu ihrer bestehenden Infrastruktur und ihren Anforderungen passen.
Die Data and Knowledge-Ebene übernimmt Retrieval, Embeddings sowie den Zugriff auf strukturierte und unstrukturierte Daten. Zu den beispielhaften Bausteinen gehören Amazon Bedrock Knowledge Base, Vector Engine for Amazon OpenSearch Serverless, Amazon S3 Vectors und Amazon DynamoDB. Die Model and Inference-Ebene hält die Modellauswahl in der Konfiguration, sodass Teams für einfache Aufgaben kleinere Modelle und für Anfragen mit anspruchsvolleren Schlussfolgerungen größere Modelle einsetzen können.
Orchestrierung und Sicherheit sind von Anfang an integriert
AWS empfiehlt, für einfache Aufgaben einen einzelnen Agenten und für komplexe, domänenübergreifende Abläufe einen Supervisor einzusetzen, der die Arbeit an spezialisierte Agenten delegiert. Das Unternehmen erklärt, dass eine Aufteilung der Zuständigkeiten den Kontext jedes Agenten fokussiert halten, die Latenz vorhersehbarer machen und es Teams ermöglichen kann, Agenten unabhängig voneinander zu testen, zu skalieren und abzusichern.
Das Framework sieht außerdem begrenzte Autonomie vor. Spezialisierte Agenten sollen nur innerhalb der ihnen zugewiesenen Tools arbeiten. Eine zentrale Agenten-Registry kann die Tools, Fähigkeiten und Verantwortlichen jedes Agenten katalogisieren. Standardisierte Protokolle wie MCP, also Model Context Protocol, und A2A, also Agent to Agent, können die Suche und das Aufrufen von Agenten unterstützen. AWS nennt Strands Agents, Amazon Bedrock AgentCore harness, AWS Agent Registry und Amazon Bedrock AgentCore Gateway als mögliche Komponenten.
Sicherheit und Leitplanken bilden eine weitere zentrale Ebene. AWS rät, externe Inhalte als nicht vertrauenswürdig zu behandeln, jede Anfrage zu authentifizieren, vor Tool-Aufrufen eine fein abgestufte Zugriffskontrolle anzuwenden und Agenten temporäre, begrenzte Zugriffsrechte statt dauerhaft gültiger Geheimnisse zu geben. Außerdem empfiehlt das Unternehmen, PHI, also Personal Health Information, und PII, also Personally Identifiable Information, zu maskieren, manipulationssichere Prüfprotokolle zu verwenden, Aktionen mit hoher Auswirkung einer menschlichen Freigabe zu unterziehen und bei anomaler Aktivität Schutzschalter einzusetzen.
Die Überwachung läuft auch nach dem Start weiter
Die Application-Ebene soll schlank bleiben. Sie stellt die Konversation dar und leitet Anfragen an die Orchestrierung weiter, anstatt Geschäftslogik zu enthalten. AWS zufolge kann an dieser Schnittstelle ein Entscheidungsmodell eingesetzt werden, das bestimmt, ob eine Anfrage in den Zuständigkeitsbereich fällt, einen Menschen erfordert oder dringend ist. Es gibt Wahrscheinlichkeiten zurück, die der Anwendungscode anhand von Schwellenwerten verarbeiten kann.
Observability sollte AWS zufolge von Anfang an alle Ebenen abdecken. Neben Logs und Metriken empfiehlt das Unternehmen Ende-zu-Ende-Traces, Kosten und Token-Verbrauch pro Anfrage, die Zeit bis zum ersten Token, den Sicherheitsstatus sowie Dashboards für Latenz, Fehler und Ausgaben. Amazon CloudWatch mit OpenTelemetry und Amazon CloudWatch Omni gehören zu den vorgeschlagenen Tools.
Die letzte Ebene, Agentic Operations, basiert auf kontinuierlicher Evaluierung. AWS empfiehlt, jede Sitzung in der Produktion auf Fundierung, Genauigkeit und Sicherheit zu bewerten und anschließend mit einem Regressions-Gate Qualitätsverluste zu erkennen, bevor sie Kunden erreichen. Amazon Bedrock AgentCore Evaluations und Amazon Bedrock AgentCore optimization werden als mögliche Dienste für die Bewertung und die kontinuierliche Leistungsoptimierung aufgeführt.
Für Nutzer und Unternehmen, die KI-Agenten einsetzen, stellt das Framework Produktionsreife als architektonische und nicht als reine Modellfrage dar. Sein modularer Aufbau soll es Teams ermöglichen, Modelle, Dienste und Agentenfähigkeiten zu ändern, ohne die gesamte Anwendung neu zu schreiben. Gleichzeitig sollen Sicherheit, Überwachung und Qualitätsprüfungen von Beginn an Bestandteil des Betriebskonzepts sein.
