Baseten und Postman wollen Unternehmen beim Betrieb von KI-Agenten in der Produktion unterstützen

Was die beiden Unternehmen beisteuern

Laut Baseten wird Postman von mehr als 40 Millionen Entwicklerinnen und Entwicklern sowie von 98 Prozent der Fortune 500 genutzt. Die beiden Unternehmen beschreiben ihre Angebote als komplementär: Postman kümmert sich um Aufbau und Betrieb von Agenten-Workflows, Baseten um den Betrieb der Modelle dahinter. Baseten fasst die Partnerschaft im Slogan zusammen: "Build with Postman. Run on Baseten."

Baseten wird als empfohlener Inferenz-Partner von Postman für Unternehmensteams genannt. In dieser Rolle betreibt das Unternehmen die Modelle hinter den Agenten und bietet schnelle Inferenz, Multi-Cloud-Kapazität sowie die Post-Training-Infrastruktur, die zur Spezialisierung von Modellen nötig ist.

Postmans Agent Stack

Im Zentrum der Partnerschaft steht Postmans Agent Stack. Er hilft Unternehmen, APIs für Agenten vorzubereiten, zu steuern, auf welche Systeme Agenten zugreifen dürfen, und deren Aktionen zu kontrollieren. Baseten bringt die Motivation in seinem Beitrag deutlich auf den Punkt: "If you do not control your agents, your agents control your company." Der Stack umfasst vier Produkte:

• Passport: sichert den API-Zugriff für Menschen und Agenten über Referenzen auf Zugangsdaten mit begrenztem Umfang, ohne die zugrunde liegenden API-Schlüssel offenzulegen.
• Fabric: ein KI-natives Gateway, das KI-, MCP- und API-Traffic leitet und steuert.
• Astropods: ein Betriebssystem mit Laufzeitumgebung, Observability und Leitplanken für KI-Agenten in der Produktion.
• Fern: erzeugt Dokumentation, SDKs und CLIs, die APIs für Entwickler und KI-Agenten auffindbar, typisiert und aufrufbar machen.

Tempo, Zuverlässigkeit und Kosten auf Seiten von Baseten

Baseten gibt an, dass seine Model APIs hohen Durchsatz und niedrige Latenz bieten und dass sieben seiner Releases aus dem Jahr 2026 bei Artificial Analysis sowohl beim Durchsatz als auch bei der Latenz zu den zwei besten Anbietern zählen. Genannt werden Beam 1.0 (Platz 1 bei Durchsatz und Latenz), Nemotron 3.5 Super VL (Platz 2 beim Durchsatz, Platz 1 bei der Latenz), Muse Spark Open (jeweils Platz 2), DeepSeek V4.1 Flash 1017 (jeweils Platz 2), DeepSeek V4.1 Flash (jeweils Platz 1), DeepSeek V4 Flash (jeweils Platz 1) und GLM-5.2 Fast (jeweils Platz 2).

Bei der Zuverlässigkeit verweist Baseten auf das Multi-cloud Capacity Management (MCM), das GPU-Kapazitäten über mehrere Clouds hinweg bündelt und eine eingebaute Ausfallsicherheit gegenüber Hardwarefehlern bietet. Nach Angaben des Unternehmens gilt standardmäßig Zero Data Retention (ZDR). Kunden können die Clouds, Regionen und Cluster, auf denen sie laufen, einschränken oder anpassen, auch mit Single-Tenant- und Active-Active-Deployments.

Post-Training zur Kostensenkung

Baseten argumentiert, dass bei den meisten wirtschaftlich wertvollen Aufgaben der Abstand zwischen einem per Prompting genutzten Allzweckmodell und einem spezialisierten, nachtrainierten Modell groß ist. Baseten Training bietet Infrastruktur und Forschungsunterstützung, um offene Modelle für die konkreten Aufgaben eines Agenten nachzutrainieren. Das Unternehmen gibt an, dass sich damit die Qualität großer Frontier-Modelle zu einem Bruchteil der Kosten erreichen oder übertreffen lasse.

Als Beispiel nennt Baseten Harvey: Das Unternehmen habe ein offenes Modell mit 27 Milliarden Parametern nachtrainiert, sodass es im Benchmark für den Rechtsagenten mit dem proprietären Frontier-Niveau gleichzieht. Die besten proprietären Modelle kosten dort laut Baseten rund 50 US-Dollar pro Aufgabe.

Der von Baseten beschriebene Prozess besteht aus vier Teilen:

• Training für bestimmte Aufgaben mittels Supervised Fine-Tuning und Reinforcement Learning.
• Bereitstellung der trainierten Modelle auf Baseten und Nutzung der Nutzungsdaten für weiteres Training.
• Direkte Zusammenarbeit mit dem Post-Training-Team von Baseten.
• Eigentum an Modellgewichten, Evaluierungen und Trainingsskripten bleibt beim Kunden.

Was das für Unternehmensteams bedeutet

Für Unternehmen, die bereits mit Postman arbeiten, eröffnet die Vereinbarung einen klar definierten Weg, die Modelle hinter ihren Agenten zu hosten, dazu die Möglichkeit, diese Modelle für geringere Kosten und bessere Antwortqualität zu spezialisieren. In einem Postman zugeschriebenen Statement im Beitrag heißt es, Baseten liefere "the infrastructure and post-training expertise to put the right model on every job in Agent Mode." Baseten lädt Teams, die den Schritt in die Produktion vorbereiten, ein, sich mit seinen Ingenieuren zu Zuverlässigkeit, Kosteneffizienz und Performance über Agenten-Workloads hinweg auszutauschen.