AWS ergänzt Bedrock um Single-Shot-RAG und reine Suche
Die verwaltete Wissensdatenbank von Amazon Bedrock unterstützt über AgenticRetrieveStream nun Single-Shot Retrieval Augmented Generation und reine Abrufanfragen. Laut AWS können Anwendungen den Suchaufwand damit an die Komplexität der jeweiligen Frage anpassen.
- Die verwaltete Wissensdatenbank von Amazon Bedrock unterstützt nun Single-Shot-RAG und reine Abrufanfragen.
- maxAgentIteration=0 liefert Passagen zurück, ohne Foundation-Model-Aufrufe durchzuführen.
- maxAgentIteration=1 führt einen Abruf und anschließend eine Antwortgenerierung durch.
- Die Werte von 2 bis 5 ermöglichen agentische Planung und iterative Abrufe.
- AWS veranschaulicht die Modi anhand eines internen Assistenten für Bankrichtlinien.
Drei Abrufmodi über eine API
Der Dienst ermöglicht es Entwicklern nun, über die Einstellung maxAgentIteration zwischen drei Modi zu wählen. Reine Abrufanfragen liefern passende Textpassagen zurück, ohne eine Antwort zu erzeugen. So können Anwendungen oder Nutzer direkt mit dem Quelltext arbeiten. Single-Shot-RAG durchsucht eine Wissensdatenbank einmal und verwendet ein Foundation Model, um anhand der abgerufenen Passagen eine Antwort zu erstellen.
Für komplexere Anfragen bleibt der agentische Abruf verfügbar. In diesem Modus zerlegt ein Foundation Model eine Frage in Teilabfragen, durchsucht relevante Wissensdatenbanken, bewertet die Belege und kann die Suche verfeinern, wenn Informationen fehlen. Ist die Antwortgenerierung aktiviert, kann die resultierende Antwort Quellenangaben enthalten, während Trace-Ereignisse die Planungs- und Abrufschritte zeigen.
AWS stellt dieselbe API als Möglichkeit vor, sowohl direkte Nachschlageanfragen als auch Fragen zu bearbeiten, die Vergleiche über mehrere Dokumente hinweg erfordern, ohne für jede Anfrageart separate Systeme entwickeln zu müssen.
Was die Werte von maxAgentIteration bewirken
Der verfügbare Bereich umfasst nun 0, 5, und alle drei Modi unterstützen mehrere Wissensdatenbanken. Der Wert 0 führt einen garantiert einmaligen Abruf durch und erzeugt keine Antwort. AWS zufolge wird in diesem Modus kein Foundation Model aufgerufen, wodurch er einem direkten Aufruf der Retrieve API entspricht. Wird mit diesem Wert generateResponse=true gesetzt, ist die Anfrage ungültig und liefert einen 4xx-Fehler zurück.
Der Wert 1 aktiviert Single-Shot-RAG: Der Dienst ruft die Informationen einmal ab und erzeugt anschließend eine Antwort, ohne agentische Planung oder Umschreiben der Anfrage. AWS beschreibt diese Einstellung als geeignet für direkte, klar abgegrenzte Fragen. Im Vergleich zum agentischen Abruf könne sie Latenz und Modellnutzung verringern.
Die Werte von 2 bis 5 behalten das agentische Verhalten bei. Ist die Antwortgenerierung aktiviert, erlaubt ein Wert von n bis zu n minus 1 Planungsrunden vor dem abschließenden Aufruf zur Antwortgenerierung. Jede Planungsrunde besteht aus einer Umformulierung der Anfrage und einem Abruf. AWS zufolge sorgen niedrigere Werte für schnellere und besser vorhersehbare Aufrufe, während höhere Werte dem Planer mehr Spielraum geben, schwierige Fragen zu zerlegen und zu verfeinern.
Für direkte Nachschlageanfragen und komplexe Vergleiche
AWS veranschaulicht die Funktion anhand eines internen Assistenten für Bankrichtlinien. Ein Mitarbeiter, der wissen möchte, welche Dokumente zur Eröffnung eines Geschäftskontos erforderlich sind, könnte für die Abfrage einer Checkliste Single-Shot-RAG verwenden. Eine Frage, die die Anforderungen für Einzelunternehmen, LLCs und Personengesellschaften mit mehreren Eigentümern vergleicht, könnte den agentischen Abruf nutzen, weil die Informationen auf mehrere Richtlinienleitfäden verteilt sind.
Das Unternehmen erklärt, dass der agentische Abruf mehrteilige Fragen unterstützen kann, indem er gezielte Suchen ausführt, bei fehlenden Belegen Folgesuchen startet und ein vollständiges Dokument abruft, wenn eine Passage nicht genügend Kontext enthält. Der Modus für reine Abrufe ist für Fälle gedacht, in denen ein Mitarbeiter die Quellpassagen prüfen möchte, statt eine generierte Antwort zu erhalten.
Die Beispiele sind illustrativ und beschreiben weder einen Kundeneinsatz noch gemessene Ergebnisse. Für Entwickler von Anwendungen bietet die Änderung eine parametergesteuerte Möglichkeit, Geschwindigkeit und Modellnutzung gegen die zusätzliche Planung abzuwägen, die komplexe Fragen erfordern können, und weiterhin AgenticRetrieveStream zu verwenden.
