Baseten
Baseten verkürzt Delta-Weight-Sync für GLM-5.3 von 36 auf 15 Sekunden
Ein Delta-Weight-Sync für einen rund 770 GB großen GLM-5.3-Checkpoint dauert bei Baseten nun 15 Sekunden mit einer Anfragepause von 0,8 Sekunden. Im bisherigen Design…
Baseten führt Autoscaling-Zeitpläne ein, um Kaltstart-Verzögerungen zu verringern
Baseten hat Autoscaling-Zeitpläne eingeführt. Die Funktion erhöht die Mindestzahl an Replikaten vor vorhersehbarem Traffic, damit Anfragen nicht auf Kaltstarts warten…
Baseten und Postman wollen Unternehmen beim Betrieb von KI-Agenten in der Produktion unterstützen
Baseten hat eine Partnerschaft mit Postman angekündigt, um Unternehmen den Weg von KI-Agenten in die Produktion zu erleichtern. Postman liefert die Werkzeuge zum…
Baseten startet joey-1: Entscheidungsmodell mit 2 Mrd. Parametern und 20 ms Latenz
Baseten hat joey-1 veröffentlicht, ein Entscheidungsmodell mit 2 Milliarden Parametern, das nach Angaben des Unternehmens eine durchschnittliche Anfrage mit 2.000 Tokens…
Baseten transkribiert mit Qwen3-ASR im Batch siebenmal schneller
Baseten zufolge transkribiert der optimierte Serving-Stack für Qwen3-ASR 1.7B bei hoher Parallelität auf einer einzelnen RTX PRO 6000 siebenmal mehr Audio pro Sekunde…
Baseten holt vier Engineering-Führungskräfte von Google, Meta, Anyscale und Databricks
Baseten hat vier Engineering-Führungskräfte an Bord geholt: Bryan Vann, Ilina Mitra, Jaikumar Ganesh und Rahmi Marasli. Laut Unternehmen sollen sie helfen, die…
Baseten startet BDN Sealed Volumes für konsistente Modelldaten
Baseten hat BDN Sealed Volumes vorgestellt. Mit der Funktion können Teams schreibgeschützte Daten einmal veröffentlichen und in jedem Deployment einbinden. Laut…
Baseten startet Netzwerk geprüfter Anbieter für RL-Umgebungen
Baseten hat das Baseten Environment Network vorgestellt, einen Kreis geprüfter Anbieter von RL-Umgebungen, die für die Kunden des Unternehmens maßgeschneiderte…
Baseten veröffentlicht mammoth-1 und elephant-1: zwei quelloffene Entscheidungsmodelle
Baseten hat mit mammoth-1 (27B) und elephant-1 (9B) zwei quelloffene Entscheidungsmodelle veröffentlicht, die das hauseigene Forschungslabor trainiert hat. Laut…
Baseten-Entscheidungsmodelle Mammoth-1 und Elephant-1 kostenlos im AI Gateway
Vercel stellt die Entscheidungsmodelle Mammoth-1 und Elephant-1 von Baseten eine Woche lang kostenlos im AI Gateway bereit, der kostenlose Zugang läuft bis zum 27.…
Top-MeldungMeta veröffentlicht Muse Spark Open: Open-Weight-Modell mit 816 Milliarden Parametern für Coding-Agenten
Meta hat die Gewichte von Muse Spark Open veröffentlicht, einem omnimodalen Mixture-of-Experts-Modell mit 816B Parametern, das gemeinsam mit Muse Code für Workflows von…
Baseten nimmt NVIDIAs offenes multimodales Modell Nemotron 3.5 Super VL ins Angebot
Baseten stellt NVIDIAs Nemotron 3.5 Super VL für Inferenz und Anpassung bereit. Das offene multimodale Modell verbindet visuelles Verständnis, Reasoning und Tool-Nutzung…
Gradium TTS erreicht auf Baseten 155 ms bis zum ersten Audio
Gradiums Text-to-Speech-Modell für KI-Sprachagenten in Echtzeit ist jetzt als dedizierte Bereitstellung in der Model Library von Baseten verfügbar. Laut Baseten liefert…
Baseten und Goodfire AI starten Project Beacon für Sicherheitskontrollen direkt in der Inferenz offener Modelle
Baseten hat gemeinsam mit Goodfire AI Project Beacon angekündigt, das proaktive Sicherheitskontrollen direkt in die Modellinferenz bringen soll. Das System liest während…
Baseten erklärt, welche Schichten in NVFP4 mit 4 Bit laufen sollten
Eine hochwertige NVFP4-Quantisierung hängt davon ab, welche Schichten eines Modells mit 4 Bit laufen können und welche mehr Präzision brauchen. Das geht aus einem…
Baseten: KI-generierte Inferenz-Engine schlägt vLLM beim Qwen-Decoding um bis zu 90 Prozent
Eine von einem KI-Agenten erzeugte Inferenz-Engine hat vLLM 0.25.1 bei der Single-Stream-Decodiergeschwindigkeit für Qwen-3.6-35B-A3B in NVFP4-Präzision auf einer…
Baseten will schnellste GLM-5-Geschwindigkeit im Benchmark von Artificial Analysis erreicht haben
Baseten gibt an, dass seine Model API für GLM-5 in einem Benchmark von Artificial Analysis mehr als 200 Tokens pro Sekunde erreicht hat, bei einer Time to First Token…
Baseten wird Open-Model-Inferenzanbieter im OpenAI B2B Marketplace
Baseten ist einer der ersten Inferenzanbieter für offene Modelle im OpenAI B2B Marketplace und bietet dabei auch eine native Integration in Codex. Laut Baseten können…
Baseten zeigt Carbon: Blaxels microVM-Sandbox für KI-Agenten in der Vorabversion
Baseten hat eine private Preview von Carbon gestartet, der vierten Infrastrukturgeneration von Blaxel, dem zugekauften Sandbox-Anbieter. Carbon führt Agenten in…
Baseten ernennt Sheila Vashee zur Chief Marketing Officer
Baseten, Anbieter einer Inferenzplattform für KI im Produktivbetrieb, hat Sheila Vashee zur Chief Marketing Officer ernannt. Nach Angaben des Unternehmens bringt sie…