Künstliche Intelligenz, aktuell.
Direkt aus den Originalmeldungen.

AWS zeigt drei Wege zur Kostensenkung bei Bedrock-Agenten mit JSON-Workloads

17. November 2026, 23:44Von der KI Nachrichten RedaktionQuelle: AWS
AWS zeigt drei Wege zur Kostensenkung bei Bedrock-Agenten mit JSON-Workloads
Bild: AWS

AWS hat drei Strategien vorgestellt, mit denen sich Token-Verbrauch, Latenz und Speicher-Overhead bei Amazon Bedrock AgentCore-Agenten reduzieren lassen, die große JSON-Payloads verarbeiten. In Benchmark-Tests mit einer repräsentativen 23-MB-Payload konnte das Unternehmen den kombinierten Ansatz zufolge den Token-Verbrauch um bis zu 71 % und die durchschnittliche Latenz um bis zu 80 % senken.

Das Wichtigste in Kürze
  • AWS setzte drei kombinierbare Strategien für große JSON-Workloads in Amazon Bedrock AgentCore ein.
  • Der Flightscape-Agent verwendet mehr als 40 Tools und JSON-Eingaben mit einer Größe von mehreren Megabytes.
  • AWS berichtet in Benchmark-Tests von einem um bis zu 71 % geringeren Token-Verbrauch.
  • AWS berichtet bei einer repräsentativen 23-MB-Payload von einer um bis zu 80 % geringeren durchschnittlichen Latenz.
  • Große Artefakte werden in Amazon S3 gespeichert, während der AgentCore-Speicher Verweise behält.

Große JSON-Payloads können Agentenkosten in die Höhe treiben

AWS zufolge sehen sich Unternehmen, die produktive Agenten mit Dutzenden Tools und großen strukturierten Eingaben entwickeln, mit steigendem Token-Verbrauch und langsameren Antworten konfrontiert. Verarbeitet ein Agent große JSON-Daten, kann jeder zusätzliche Tool-Aufruf die vollständige Payload in das Kontextfenster des Large Language Models einfügen.

Über mehrere Gesprächsrunden hinweg kann sich dieser Effekt verstärken, die Kosten erhöhen und die Antwortqualität beeinträchtigen. AWS bezeichnet die Verwaltung des Kontextfensters als wichtig für die Zuverlässigkeit und Reaktionsfähigkeit agentischer Systeme, die in großem Maßstab betrieben werden.

Der Flightscape-Agent verarbeitete mehr als 20 MB JSON

Die Strategien wurden für die Entwicklung eines produktiven Agenten für Flightscape eingesetzt, eine Plattform für den Flugbetrieb, die Airlines bei der Planung und Verwaltung von Crews, Flügen und Betriebsabläufen unterstützt. Der Agent zur Optimierung von Schulungsplänen überprüft die Zuordnung von Schulungsterminen für Crews anhand von Geschäftsregeln.

Der Agent arbeitet mit mehr als 40 Tools und JSON-Eingaben, deren Größe in Megabytes angegeben wird. Er kann Fragen zu Crew-Zuordnungen, Planung und Ressourcenverteilung beantworten, doch die durchschnittliche Latenz von Anfragen lag bei den meisten Aufrufen über 15 Sekunden. AWS zufolge fügte jeder Tool-Aufruf seine vollständige Payload in den Modellkontext ein, wodurch Token-Anzahl und Kosten stiegen. Bei größeren Datensätzen konnte sich das Kontextfenster füllen, bevor der Agent seine Überlegungen abgeschlossen hatte.

Das System verwendet LangGraph, ein Open-Source-Framework von LangChain, und läuft auf Amazon Bedrock AgentCore. Zu den Eingaben gehören ein JSON-Dokument mit der Optimierungsanfrage, ein JSON-Dokument mit der Optimierungsantwort und ein JSON-Dokument mit dem Validierungsbericht. Ein KI-Agent nutzt diese Dokumente, um eine dialogbasierte Schnittstelle zum Abfragen von Optimierungsergebnissen, zum Verständnis von Validierungsfehlern und zur Untersuchung von Planungseinteilungen bereitzustellen.

Große Artefakte wandern zu Amazon S3

AWS zufolge lassen sich die drei Strategien innerhalb eines einzelnen Agenten-Zugs kombinieren. Zu Beginn eines Zugs stellt hydrate_state() einen schlanken Sitzungsstatus aus dem Speicher von Amazon Bedrock AgentCore wieder her. Am Ende schreibt dehydrate_state() große Payloads in den S3ArtifactStore und speichert Verweise im AgentCore-Speicher.

Die erste Strategie verändert die Persistenz des Sitzungsstatus. Große Artefakte aus Anfragen, Antworten, Validierungen und abgeleiteten Daten werden zu Amazon Simple Storage Service verschoben, während der AgentCore-Speicher stabile Verweise und schlanke Felder behält. Tools können große Payloads bei Bedarf laden, statt sie in jeder Runde vollständig einzulesen.

Wenn ein Tool eine übergroße Liste oder ein übergroßes Wörterbuch zurückgibt, speichert der Agent das vollständige Ergebnis in Amazon S3 und sendet dem Modell eine kompakte Zusammenfassung mit einem Handle. Das Modell kann über get_result_page_tool() zusätzliche Details anfordern. AWS stellt außerdem ergänzenden Code in einem GitHub-Repository bereit und nennt ein AWS-Konto, einen Amazon-S3-Bucket, AgentCore-Speicher, einen auf LangGraph basierenden Agenten und eine Python-3.12+-Umgebung als Voraussetzungen.

Für Nutzer und Unternehmen, die Agenten rund um große strukturierte Datensätze entwickeln, bietet der Ansatz eine Möglichkeit, den Zugriff auf detaillierte Artefakte zu erhalten und zugleich die Datenmenge zu reduzieren, die wiederholt in den Gesprächskontext eingefügt wird. Die genannten Einsparungen beziehen sich auf die Benchmark-Tests von AWS mit der repräsentativen 23-MB-Payload.

Ähnliche Meldungen

AWS lässt KI-Agenten x402-Produkte über Marketplace-Abrechnung kaufen
Produkte und Tools20. November 2026, 00:02

AWS lässt KI-Agenten x402-Produkte über Marketplace-Abrechnung kaufen

AWS hat AWS Billing in die Zahlungen von Amazon Bedrock AgentCore integriert. Damit können KI-Agenten x402-fähige Software, APIs, Daten und Inhalte über den AWS…

AWS erweitert Bedrock AgentCore mit Strands-Standards und Lifecycle-Hooks
Für Entwickler19. November 2026, 21:01

AWS erweitert Bedrock AgentCore mit Strands-Standards und Lifecycle-Hooks

Das Amazon-Bedrock-AgentCore-Framework nutzt jetzt das Open-Source-Framework Strands von AWS als Grundlage und ergänzt verwaltete Standards, integrierte Tools und…

Airbnb optimiert Coding-Agenten auf Amazon Bedrock nach Kosten pro Aufgabe
Für Entwickler18. November 2026, 22:48

Airbnb optimiert Coding-Agenten auf Amazon Bedrock nach Kosten pro Aufgabe

Airbnb nutzt neben Modellevaluierungen und Monitoring im Produktivbetrieb die Kosten pro Aufgabe, um Modelle auszuwählen und Coding-Agenten über Amazon Bedrock zu…