NAVER LABS Europe trainiert LLM-Agenten darauf, aus abgerufener Erfahrung zu lernen

24. Oktober 2026, 15:07Quelle: NAVER LABS Europe

Forschende von NAVER LABS Europe schlagen vor, Fine-Tuning und den Abruf von Erfahrung zu kombinieren, damit LLM-Agenten besser auf Aufgaben generalisieren, die sie noch nicht kennen. Die Arbeit „Retrieval-augmented LLM agents: Learning to learn from experience“ ist für die EMNLP-Konferenz in Budapest vorgesehen.

Das Wichtigste in Kürze

NAVER LABS Europe schlägt vor, Fine-Tuning mit Erfahrungsabruf für LLM-Agenten zu kombinieren.
Nach Angaben der Autoren lässt sich Fine-Tuning oft nicht auf neue Aufgaben übertragen, während reiner Erfahrungsabruf häufig hinter überwachten Baselines zurückbleibt.
Sie präsentieren ein LoRA-basiertes SFT-Rezept, das nach eigenen Angaben mehrere modernste Trainingspipelines für Agenten übertrifft.
Die Arbeit analysiert Speicherung, Abfrage und Trajektorienauswahl und integriert den Abruf in das Fine-Tuning.
Sie ist für die EMNLP in Budapest vom 24. bis 29. Oktober 2026 vorgesehen.

Das Problem bisheriger Agentenansätze

Große Sprachmodelle haben die Entwicklung universell einsetzbarer Agenten vorangebracht. Eine robuste Generalisierung auf unbekannte Aufgaben bleibt nach Ansicht der Autoren jedoch eine erhebliche Herausforderung. Laut der Studie folgen aktuelle Methoden meist einem von zwei Wegen: dem Fine-Tuning oder einer trainingsfreien, speichererweiterten Generierung, die abgerufene Erfahrung nutzt.

Beide Wege haben laut den Forschenden eine Schwäche. Fine-Tuning lasse sich oft nicht auf neue Aufgaben übertragen, während der Erfahrungsabruf häufig schlechter abschneide als überwachte Baselines. Die neue Arbeit fragt, ob sich beides verbinden lässt, und untersucht systematisch, wie sich retrieval-augmentierte LLM-Agenten darauf trainieren lassen, abgerufene Trajektorien im Kontext zu nutzen.

Drei Beiträge

Die Autorinnen und Autoren Thomas Palmeira Ferraz, Romain Deffayet, Vassilina Nikoulina, Hervé Déjean und Stéphane Clinchant beschreiben in ihrer Studie drei Schritte.

Ein Rezept für überwachtes Fine-Tuning. Zunächst etablieren sie mit LoRA ein robustes Rezept für überwachtes Fine-Tuning (SFT), das nach eigenen Angaben mehrere modernste Trainingspipelines für Agenten übertrifft.
Eine Analyse des Retrieval-Designs. Sie liefern eine detaillierte Analyse zentraler Designentscheidungen für den Erfahrungsabruf und ermitteln optimale Strategien für Speicherung, Abfrage und Auswahl von Trajektorien.
Eine kombinierte Pipeline. Sie schlagen eine Pipeline vor, die den Erfahrungsabruf in den Fine-Tuning-Prozess selbst integriert.

Namen von Benchmarks oder konkrete Zahlenwerte nennt die Quelle im Abstract nicht.

Was die Autoren behaupten und wo die Arbeit vorgestellt wird

Den Autoren zufolge zeigen ihre Ergebnisse, dass der kombinierte Ansatz die Generalisierung auf unbekannte Aufgaben deutlich verbessert. Sie bezeichnen ihn als skalierbares und wirksames Framework, um Agenten zu entwickeln, die lernen, aus Erfahrung zu lernen.

Die Arbeit ist für die Conference on Empirical Methods in Natural Language Processing (EMNLP) vorgesehen, die vom 24. bis 29. Oktober 2026 in Budapest, Ungarn, stattfindet. Veröffentlicht wurde sie von Hervé Déjean auf der Website von NAVER LABS Europe, von dort ist auch eine arXiv-Fassung verlinkt.

Was das bedeutet

Für Teams, die LLM-Agenten entwickeln, weist die Arbeit auf eine praxisnahe Richtung: Statt sich zwischen Fine-Tuning und dem Abruf früherer Erfahrung zu entscheiden, wird das Modell so trainiert, dass es abgerufene Trajektorien zu nutzen weiß. Die berichtete Analyse zu Speicherung, Abfrage und Trajektorienauswahl kann zudem als Orientierung für den Entwurf von Erfahrungsspeichern dienen. Da es sich um die eigenen Aussagen der Autoren aus einem Abstract handelt, hängt die Einschätzung, wie groß die Verbesserungen tatsächlich ausfallen, vom vollständigen Paper ab.