Baseten bringt offene Frontier-Modelle in Microsoft Foundry

Basetens offene Frontier-Modelle sind jetzt als Public Preview über Microsoft Foundry verfügbar. Azure-Kunden erhalten damit einen Microsoft-eigenen Dienst, um die Modelle zu testen, bereitzustellen und zu skalieren. Die Modelle nutzen Basetens Inferenzinfrastruktur und können aus dem Foundry-Modellkatalog ausgewählt werden.
- Baseten ist als Public Preview in Microsoft Foundry verfügbar.
- Zu den Startmodellen gehören DeepSeek V4.1 Flash, GLM-5.3, GLM-5.3-Flash und Kimi K3.
- Kunden können zwischen Standard- und Provisioned-Bereitstellungen wählen.
- Die Anfragen sind zustandslos, und Baseten speichert weder Prompts noch Antworten.
- Die allgemeine Verfügbarkeit wird für Anfang 2027 erwartet.
Offene Modelle erweitern den Katalog von Microsoft Foundry
Die Partnerschaft gibt Organisationen eine weitere Option neben den offenen und proprietären Modellen, die bereits in Microsoft Foundry verfügbar sind. Baseten zufolge können Teams die Modelle für Coding-Agenten, Forschungs-Workflows und Anwendungen im Kundensupport evaluieren und anschließend auf derselben Plattform produktiv einsetzen, auf der sie KI-Anwendungen und Agenten entwickeln und verwalten.
Zum Start sind DeepSeek V4.1 Flash, GLM-5.3, GLM-5.3-Flash und Kimi K3 verfügbar. Baseten zufolge sollen zusätzliche Modelle am Tag ihrer Veröffentlichung verfügbar werden. Der Dienst des Unternehmens übernimmt die Infrastruktur für das Bereitstellen der Modelle. Teams können offene Modelle dadurch testen, ohne GPU-Kapazitäten beschaffen oder Modell-Laufzeitumgebungen verwalten zu müssen.
Kunden von Microsoft Foundry können die Modelle mit denselben Kontrollmechanismen für Unternehmen nutzen wie andere Modelle auf der Plattform. Die Nutzung wird als First-Party-Foundry-Verbrauch über Azure abgerechnet und zu 100 Prozent auf das Microsoft Azure Consumption Commitment eines Kunden, kurz MACC, angerechnet.
Bereitstellung und Kontrollmechanismen für Unternehmen
Baseten zufolge umfasst die Optimierung der Leistung jede Ebene des Inferenz-Stacks, darunter Routing, Batching, Caching und Kernel. Die Infrastruktur ist laut dem Unternehmen auf eine Verfügbarkeit von 99,9 Prozent ausgelegt.
Kunden können zwischen Standard- und Provisioned-Bereitstellungen wählen. Bei Global-Standard- und Data-Zone-Standard-Bereitstellungen erfolgt die Abrechnung pro Token. Global-Provisioned- und Data-Zone-Provisioned-Bereitstellungen nutzen dagegen Provisioned Throughput Units, kurz PTUs, für reservierte Kapazität und einen planbaren Durchsatz.
Die Integration umfasst außerdem eine Speicherung von null Daten bei zustandslosen Anfragen. Über Foundry sind Microsoft Entra ID und eine schlüsselbasierte Authentifizierung verfügbar. Hinzu kommen modellbezogene Zugriffskontrollen über Azure Policy. Baseten zufolge speichert das Unternehmen weder Prompts noch Antworten.
„Baseten in Microsoft Foundry zu integrieren, gibt Unternehmen mehr Auswahl und verbindet Basetens optimierte und zuverlässige Inferenz mit der Governance, den Kontrollmechanismen und der Beobachtbarkeit der Foundry-Plattform“, sagte Steve Sweetman, Vice President of Product bei Microsoft Foundry, in der Ankündigung.
So greifen Azure-Teams auf die Modelle zu
Baseten-Modelle stehen allen Kunden im Foundry-Modellkatalog zur Verfügung. Ein Administrator muss den Zugriff jedoch zunächst für eine Organisation freischalten. Entwickler können anschließend eine Standard- oder Provisioned-Bereitstellung auswählen. Laut Baseten sind die Bereitstellungen innerhalb von Sekunden einsatzbereit.
Die Modelle werden über die Chat Completions API und die Responses API bereitgestellt. Baseten zufolge können dadurch bestehender OpenAI-kompatibler Code und Agenten-Workflows mit minimalen Änderungen weiterverwendet werden.
Die Public Preview ist die erste Phase des Angebots. Baseten erwartet die allgemeine Verfügbarkeit Anfang 2027 und will weiterhin offene Frontier-Modelle hinzufügen, sobald diese veröffentlicht werden. Für Azure-Unternehmen erweitert die Ankündigung die Modellauswahl, während Bereitstellung, Governance, Beobachtbarkeit und Abrechnung in Microsoft Foundry verbleiben.
Baseten: Baseten is now available on Microsoft Foundry


