Künstliche Intelligenz, aktuell.
Direkt aus den Originalmeldungen.

Airbnb optimiert Coding-Agenten auf Amazon Bedrock nach Kosten pro Aufgabe

18. November 2026, 22:48Von der KI Nachrichten RedaktionQuelle: AWS
Airbnb optimiert Coding-Agenten auf Amazon Bedrock nach Kosten pro Aufgabe
Bild: AWS

Airbnb nutzt neben Modellevaluierungen und Monitoring im Produktivbetrieb die Kosten pro Aufgabe, um Modelle auszuwählen und Coding-Agenten über Amazon Bedrock zu steuern. Der Ansatz soll die Gesamtkosten für die Erledigung einer Engineering-Aufgabe erfassen, statt einzelne Modellanfragen isoliert zu bepreisen.

Das Wichtigste in Kürze
  • Airbnb betreibt AirChat-Coding-Agenten über ein LLM-Gateway auf Amazon Bedrock.
  • Das Unternehmen bewertet Modelle vor der Einführung anhand eigener Engineering-Aufgaben.
  • Die Kosten pro Aufgabe umfassen sämtliche Tokenkosten aller für die Erledigung einer Aufgabe nötigen Anfragen.
  • Airbnb nutzt CloudWatch-Metriken, um Latenz, Drosselungen, Kontingentnutzung und Ausgaben zu überwachen.
  • Produktionsdaten können Airbnb dazu veranlassen, Standardmodelle und Aufwandsobergrenzen zu ändern.

Airbnb betreibt Coding-Agenten über Bedrock

Jede Woche nutzen Tausende Engineers und engineeringnahe Mitarbeiter bei Airbnb AirChat, das interne Tool des Unternehmens zum Ausführen von Coding-Agenten. Die Agenten senden Modellanfragen über Airbnbs Gateway für Large Language Models, das auf Amazon Bedrock läuft.

Engineers können AirChat auf AirDev-Arbeitsumgebungen ausführen. Dabei handelt es sich um persönliche Entwicklungsmaschinen in der Cloud. Sie können eine Aufgabe auch an AirChat Remote übergeben. Dieser Dienst führt Cloud-Agenten in separaten Cloud-Arbeitsumgebungen aus, während der Engineer an etwas anderem arbeitet. Beide Wege führen über das Gateway zu Amazon Bedrock.

AWS zufolge bietet Bedrock über eine gemeinsame API Zugriff auf Foundation-Modelle mehrerer Anbieter, während AWS die Modellinfrastruktur verwaltet. Der Dienst ist außerdem in die Zugriffskontrollen und das Monitoring von AWS integriert und verarbeitet Airbnbs Code, Prompts und Modellantworten innerhalb von AWS.

Das Tempo bei der Veröffentlichung neuer Modelle erschwert die Wahl von Standardmodellen. Airbnb zufolge kamen in etwa fünf Wochen acht neue Modelle auf den Markt. Mitte Oktober gingen rund zwei Drittel der von den Engineers über Coding-Agenten gesendeten Anfragen an diese neuen Modelle. Jede Modellveröffentlichung kann gleichzeitig die Zahl der Ausgabetoken, Kosten, Latenz und Kapazität beeinflussen.

Die Kosten pro Aufgabe umfassen jede Anfrage

Airbnb bewertet Modelle vor ihrer Einführung anhand eigener Engineering-Aufgaben. Das Unternehmen misst für jedes Modell und jeden zulässigen Reasoning-Aufwand sowohl einen Punktwert als auch die Kosten pro Aufgabe. Der Reasoning-Aufwand bestimmt, wie intensiv ein Modell vor der Antwort schlussfolgert.

Airbnb definiert die Kosten pro Aufgabe als die Listenpreiskosten aller Token, die ein Agent für die Erledigung einer Aufgabe verwendet. Da ein Coding-Agent viele Anfragen stellen und den Kontext bei jeder Anfrage erneut einlesen kann, addiert Airbnb die Kosten der gesamten Aufgabe, statt nur eine einzelne Anfrage zu betrachten.

Die Berechnung umfasst nicht aus dem Cache gelesene Eingabetoken, Cache-Lesevorgänge, Cache-Schreibvorgänge und Ausgabetoken für jede Anfrage. Jeder Typ wird zu seinem eigenen Tarif berechnet. Airbnb erfasst die durchschnittlichen Kosten neben dem Punktwert für jedes Modell, jeden Reasoning-Aufwand und jeden Agent-Client, einschließlich Versuchen mit niedriger Punktzahl.

Das Unternehmen nutzt diese Ergebnisse, um für seine Coding-Tools ein Standardmodell und einen Standardaufwand sowie eine Aufwandsobergrenze auszuwählen. Diese bezeichnet den höchsten für ein Modell zulässigen Aufwand. In einem von Airbnb beschriebenen Modelltest erhöhte der Wechsel von niedrigem zu hohem Reasoning-Aufwand den Punktwert um 0,8 Punkte, während die Kosten pro Aufgabe 2,5-mal so hoch waren.

Produktionsmetriken zeigen, wann Entscheidungen geändert werden müssen

Airbnbs Evaluierungssystem wird durch Monitoring im Produktivbetrieb ergänzt. Das Gateway erfasst für jede Anfrage das Modell, den Client, das Team und den Nutzer. Airbnb verwendet diese Daten aggregiert für die Kosten- und Kapazitätsplanung. CloudWatch liefert Tokenzahlen, Latenz, Fehler und Drosselungen.

AWS nennt im Namespace AWS/Bedrock mehrere wichtige Signale. InvocationLatency, TimeToFirstToken, OutputTokenCount und abgeleitete Ausgabetoken pro Sekunde helfen bei der Untersuchung der Latenz. InvocationThrottles und Reservierungen für Anfrage-Token dienen zur Überwachung von Drosselungen. EstimatedTPMQuotaUsage misst den geschätzten Verbrauch des Token-pro-Minute-Kontingents über die Inferenz-APIs von Bedrock hinweg und kann proaktive Alarme unterstützen, bevor die Nutzung ein Kontingentlimit erreicht.

Für die Ausgaben überwacht Airbnb InputTokenCount, CacheReadInputTokenCount, CacheWriteInputTokenCount und OutputTokenCount. AWS zufolge sind Cache-Lesevorgänge günstiger als nicht aus dem Cache gelesene Eingaben, während Cache-Schreibvorgänge je nach Modell teurer sein können. Eine niedrigere Cache-Trefferrate kann daher die Kosten pro Anfrage erhöhen.

Airbnb vergleicht diese Produktionssignale mit den Evaluierungsergebnissen und den Kosten pro Aufgabe. Wenn die tatsächliche Nutzung nicht mit den Evaluierungsergebnissen übereinstimmt, untersucht das Unternehmen die Ursache und kann Standardmodelle oder Aufwandsobergrenzen neu festlegen. Der Ansatz gibt Engineering-Teams eine Möglichkeit, Entscheidungen zur Modellqualität mit den betrieblichen Auswirkungen von Latenz, Kapazität, Drosselungen und Token-Verbrauch zu verknüpfen.

Ähnliche Meldungen

Kimi Code CLI erhält nativen Amazon-Bedrock-Provider, kein separater API-Schlüssel mehr nötig
Produkte und Tools20. November 2026, 01:33

Kimi Code CLI erhält nativen Amazon-Bedrock-Provider, kein separater API-Schlüssel mehr nötig

Moonshot AI hat Kimi Code CLI v2.7.0 um einen nativen Bedrock-Provider erweitert. Der quelloffene Coding-Agent erreicht damit Modelle auf Amazon Bedrock über…

AWS lässt KI-Agenten x402-Produkte über Marketplace-Abrechnung kaufen
Produkte und Tools20. November 2026, 00:02

AWS lässt KI-Agenten x402-Produkte über Marketplace-Abrechnung kaufen

AWS hat AWS Billing in die Zahlungen von Amazon Bedrock AgentCore integriert. Damit können KI-Agenten x402-fähige Software, APIs, Daten und Inhalte über den AWS…

AWS SageMaker AI ergänzt Monitoring für Drift bei Inferenz-Endpunkten
Produkte und Tools19. November 2026, 22:28

AWS SageMaker AI ergänzt Monitoring für Drift bei Inferenz-Endpunkten

Amazon SageMaker AI erkennt jetzt Latenz-Drift, unzureichend ausgelastete GPUs und verpasste Optimierungen beim Serving geeigneter Inferenz-Endpunkte für generative KI.…