LangChain verrät fünf Bausteine seines internen „Company Harness“

Drei Agenten, ein Rezept

In einem Blogbeitrag von Harrison Chase und Caspar Broekhuizen schreibt LangChain, die internen Agenten hätten „die Arbeitsweise dieser Teams komplett verändert“, seien aber nicht leicht richtig umzusetzen gewesen. Das Unternehmen gibt an, viel Zeit in die Probleme gesteckt zu haben, die ein Multiplayer-Harness mit sich bringt, also ein Harness, das von vielen Personen gemeinsam genutzt wird und nicht nur von einem einzelnen Nutzer.

LangChain nennt drei zentrale interne Agenten:

• GTM Agent: ein proaktiver, dauerhaft aktiver Agent für Go-to-Market-Aufgaben. Er überwacht und beantwortet E-Mails und neue qualifizierte Leads, verschickt tägliche Briefings, beantwortet Fragen zu Accounts und kann Outbound-Aktivitäten ausführen.
• OpenSWE: der Engineering-Agent. Er kann an Pull Requests arbeiten und sie entwerfen, außerdem führt er das Code-Review für alle PRs durch.
• Content Studio: der Marketing-Agent. Er entwirft Blogbeiträge, Bilder, PowerPoint-Präsentationen und Videos im Stil des Unternehmens und mit Kenntnis seiner Positionierung.

Alle drei sind nach demselben Muster aufgebaut, das LangChain als allgemeines Rezept für Company Harnesses präsentiert. Die fünf gemeinsamen Primitive sind: dort leben, wo die Menschen ohnehin arbeiten, wissen, wer gerade fragt, über Memory mit klar begrenztem Geltungsbereich verfügen, Code in einer Sandbox ausführen, die auf authentifizierte Dienste zugreifen kann, und viele Aufgaben nach Zeitplan ausführen.

Nutzererlebnis und Identität

Für LangChain ist der Arbeitsplatz Slack. Jeder Agent hat eine eigene Slack-App und kann direkt angeschrieben oder in einem Kanal markiert werden. Die Arbeit in Kanälen, so das Unternehmen, ermöglicht es anderen zu sehen, wie Kolleginnen und Kollegen die Agenten nutzen. Zusätzlich gibt es eine Möglichkeit, dass ein Agent in einen eigenen Thread „ausbricht“ („breakout“), damit das Hinzuziehen eines Agenten in ein Gespräch zwischen Menschen dieses nicht überfrachtet oder stört.

Manche Aufgaben passen nicht zu Slack. Ein Beispiel ist die Durchsicht eines großen Rückstaus an E-Mails, die der GTM Agent entworfen hat. Für solche Fälle hat das Team eine eigene Benutzeroberfläche gebaut.

Die Identität war nach Worten der Autoren das heikelste Problem: In wessen Namen handelt ein Agent, wenn er etwas tut? LangChain beschreibt zwei gängige Ansätze. Beim On-behalf-of-Ansatz handelt der Agent für den Nutzer, der ihn aufgerufen hat. Bei festen Zugangsdaten, etwa einem Servicekonto, nutzt er unabhängig vom Aufrufer immer denselben Zugriff. Das Unternehmen kombiniert beides:

• OpenSWE: handelt als der Nutzer, wenn er angeschrieben wird, und eröffnet etwa PRs unter dem GitHub-Handle dieser Person. Im Hintergrund, etwa beim Code-Review, agiert er mit einer eigenen Identität als GitHub-App.
• GTM Agent: verwendet für Tools wie Salesforce eine feste Identität, damit sich nicht jeder anmelden muss. E-Mail läuft im Namen des aufrufenden Nutzers und ist nur in Direktnachrichten verfügbar, nicht in gemeinsamen Kanälen.
• Content Studio: handelt für Tools wie Notion im Namen des Nutzers, verwendet für Twitter aber die Zugangsdaten des Unternehmenskontos. Bestimmte Operationen dürfen nur freigegebene Nutzer ausführen, sodass nicht jeder posten kann und manche nur lesen oder Entwürfe erstellen dürfen.

Memory, Sandboxes und geplante Ausführungen

Alle Agenten haben zwei Memory-Ebenen: ein globales Memory, das für alle Nutzer gilt, und ein Nutzer-Memory, das nur für eine bestimmte Person gilt. Die Agenten entscheiden selbst, welche Fakten in welche Ebene gehören. LangChain bezeichnet dies als wohl am wenigsten erforschtes Gebiet bislang und kündigt dort viel Arbeit an.

Alle drei Agenten können Code schreiben und ausführen. Sie laufen außerhalb der Sandbox, verbinden sich aber mit ihr, um dort Code auszuführen, jeweils mit leicht unterschiedlichem Basis-Image und anderen Abhängigkeiten. OpenSWE, der am stärksten aufs Programmieren ausgerichtete Agent, wählt je nach Kanal und Nutzer, welches Basis-Image gestartet wird. Die Agenten nutzen den Secret-Proxy in LangSmith Sandboxes, damit sie aus der Sandbox heraus sicher auf Dienste zugreifen können.

Ein großer Anteil der Ausführungen läuft nach Zeitplan oder wird durch Ereignisse ausgelöst, statt von einem Menschen gestartet zu werden. Einige richten Entwickler ein: OpenSWE lauscht auf neue PRs und prüft sie. Andere gehen auf Nutzeranfragen zurück: Der Autor bat den GTM Agent um ein tägliches Briefing, und der Agent legte selbst einen Cron-Job an, um es zuzustellen.

Was das für Teams bedeutet, die Agenten bauen

LangChain zufolge stellt Managed Deep Agents die Infrastruktur für Kanäle, Crons, Sandboxes, Memory und Identität bereit und lässt zugleich genug Spielraum, das Verhalten der Agenten anzupassen. Zum Ausprobieren verweist das Unternehmen auf eine Quickstart-Anleitung.

Für Teams, die gemeinsam genutzte, unternehmensweite Agenten planen, ist der Beitrag eine praxisnahe Checkliste auf Basis der eigenen Erfahrungen von LangChain. Er legt nahe, dass Identitätsregeln, etwa welche Tools als Nutzer laufen und welche ein festes Konto verwenden, pro Tool festgelegt werden müssen und dass geplante Aufgaben und Hintergrundarbeit einen erheblichen Teil dessen ausmachen, was solche Agenten leisten. Die Details spiegeln die interne Konfiguration eines einzelnen Unternehmens wider, wie LangChain selbst berichtet.