Mastra macht Agent Controller für langlaufende Agenten-Sitzungen allgemein verfügbar

Was Agent Controller leistet

Laut Mastra ist Agent Controller die Schicht rund um die Agentenschleife. Eine einzelne Interaktion mit einem Agenten ist simpel: Er nimmt einen Prompt entgegen und liefert eine Antwort. Agent Controller hält dieses Gespräch offen und ermöglicht es Entwicklern, es zu beobachten, zu unterbrechen und zu steuern.

Jeder Nutzer erhält eine Sitzung mit eigenen Threads, Modus, Modell, Freigaben, Speicher und Subagenten. Jeder Client, der diese Sitzung abonniert hat, sieht den aktuellen Live-Zustand.

Das Produkt erschien im Juni unter dem Namen Harness. Mastra zufolge wurde es in AgentController umbenannt, weil Mastra bereits Werkzeuge, Speicher, Storage und die Laufzeitumgebung rund um einen Agenten bereitstellt, was den alten Namen missverständlich machte. In den Worten des Unternehmens spiegelt der neue Name besser wider, was das Produkt leistet.

Mastra hat die besten Teile von Mastra Code herausgelöst, um es zu erstellen, und anschließend angepasst, um darauf Mastra Factory aufzubauen. Beide Produkte nutzen es unterschiedlich. Mastra Code bedient einen Entwickler in einer langen Sitzung, in der der Nutzer stunden- oder tagelang plant, freigibt, baut und steuert. Mastra Factory führt viele Sitzungen gleichzeitig aus: Jedes Arbeitselement auf dem Board öffnet sich in eine eigene Agenten-Sitzung mit Chat, Tool-Aktivität und Workspace-Dateien, und Menschen oder andere Agenten können beitreten, um den Umfang anzupassen oder Aktionen freizugeben.

Verbesserungen seit Juni

Die meisten Änderungen stammen laut Mastra aus dem Betrieb von Mastra Factory, wo der Controller nicht mehr nur einen Entwickler, sondern ein Team plus mehrere Agenten bediente.

Getrennte Sitzungen pro Nutzer. Die erste Version erlaubte es einigen wenigen Personen, sich ein Gespräch zu teilen. Factory benötigte jedoch einen Host, der viele getrennte Gespräche betreibt, jedes mit eigenem Zustand, damit Nutzer sich nicht gegenseitig die Arbeit überschreiben. Mastra hat den gesprächsspezifischen Zustand aus AgentController in eine Session verlagert. Jede Session besitzt nun ihren eigenen Gesprächszustand, Event-Bus und ihre eigene Run-Engine. Ruft man createSession() zweimal mit derselben resourceId auf, erhält man dieselbe Sitzung, sodass Nutzer zu ihrer eigenen Arbeit zurückkehren.

Schnelleres Durchsuchen des Verlaufs. In Factory bedeutete das Öffnen einer Thread-Seite, eine Sitzung zu erstellen, die einen Workspace und eine Sandbox startete. Das Lesen alter Nachrichten konnte die Seite einige Sekunden lang blockieren und belegte einen Sandbox-Slot. Lesezugriffe gehen jetzt über queryThreads(), queryThreadById() und queryThreadMessages() direkt an den Speicher, und initStorage() richtet den Speicher ein, ohne einen Workspace bereitzustellen.

Geringerer Speicherbedarf. Jedes kleine gestreamte Update hatte einen vollständigen Snapshot des Anzeigezustands ausgelöst, einschließlich der kompletten Nachricht und jedes abgeschlossenen Tool-Aufrufs mit Argumenten und Ergebnis. Clients, die einen Ereignisverlauf vorhielten, konnten dadurch den Arbeitsspeicher erschöpfen. Mastra bündelt nun häufige Snapshots, wobei Reihenfolge und Endzustand erhalten bleiben, und sendet die erste Nachricht einmalig, gefolgt von Deltas. Laut Unternehmen sank der Speicherverbrauch in langlaufenden Mastra-Code-Prozessen von 2, 20 GB auf 300, 750 MB.

Kunden und Einsatzszenarien

Mastra nennt zwei Kunden. Artifact entwickelt Werkzeuge für Hardware-Ingenieure. Mitgründer Corbin Klett sagte: "For Artifact, Agent Controller is the harness of harnesses." Er ergänzte, Hardware-Ingenieure nutzten es, um Kabelbäume für Flugzeuge, Raumfahrzeuge und Kernkraftsysteme zu entwerfen.

Frontleap setzt es hinter einem KI-Assistenten für das Auftragsmanagement ein, der Vertriebsmitarbeitern und Beratern im Geschäft hilft, das Projekt eines Kunden in SAP in einen vollständigen, korrekten Auftrag zu überführen. Mitgründer und CTO Thomas Laberge sagte, Agent Controller übernehme persistente Sitzungen, Streaming, Hintergrund-Subagenten, die Bericht erstatten, sowie Transparenz über Token-Verbrauch und Kosten pro Sitzung. Diese Schicht hätte das Unternehmen sonst selbst bauen und pflegen müssen.

Mastra empfiehlt AgentController, wenn ein Agent:

• langlaufend oder autonom ist
• ein Kollege ist, mit dem man lange Gespräche führt
• für mehr als ein paar Minuten an eine Aufgabe angesetzt wird
• viel Code schreibt und ausführt, besonders in einer Schleife
• von mehreren Personen oder Clients gleichzeitig genutzt wird

Wer die volle Kontrolle über eine einzelne Anfrage und Antwort braucht, wird von Mastra auf die Klasse Agent verwiesen.

Wie es zum Rest des Harness passt

AgentController hostet die Sitzung, weitere Harness-Funktionen unterstützen es dabei. Signals lassen Menschen und andere Agenten eine Sitzung steuern, während sie läuft. Schedules wecken den Agenten per Zeitsteuerung. Goals halten ihn bei der Arbeit, bis die Aufgabe erledigt ist. Channels leiten eingehende Nachrichten an die Sitzung weiter.

Für Teams, die Agenten-Apps auf Mastra bauen, bietet die Veröffentlichung eine gehostete Sitzungsschicht für persistente, geteilte und beobachtbare Agentenarbeit. Dokumentation gibt es in den AgentController-Docs.