Databricks wirbt für Open-Weight-Modelle im Unternehmenseinsatz

Sieben Faktoren, die die KI-Strategie von Unternehmen verändern

Laut den Databricks-Field-Engineers, die den Beitrag verfasst haben, haben sich Unternehmen zwei Jahre lang auf einzelne Anbieter von Frontier-Modellen festgelegt und überdenken diesen Ansatz nun. Sie nennen sieben Faktoren hinter dem Umschwung.

• Rendite: Die KI-Budgets sind schneller gewachsen als Umsatz und Kosteneinsparungen, weshalb die Stückkosten besser werden müssen.
• Wechselnde Rankings: Das führende Intelligenz-Ranking hat seit Mai 2023 laut Beitrag mehr als 20-mal den Besitzer gewechselt, was Architekturen mit nur einem Anbieter schwerer anpassbar macht.
• Guardrails: Die Schutzmechanismen von Frontier-Modellen können legitime Arbeit ablehnen, etwa die Analyse von aktiver Malware. Databricks zufolge stießen Einsatzkräfte bei Hugging Face mit echten Angriffslogs und Exploit-Payloads an diese Grenze und führten die Analyse stattdessen mit dem Open-Weight-Modell GLM 5.2 durch.
• Datenspeicherung: Einige Frontier-Anbieter sind von Zero-Data-Retention-Richtlinien abgerückt. Databricks verweist auf eine Mindestspeicherdauer von 30 Tagen, die mit der Frontier-Stufe von Anthropic eingeführt wurde. Das könnte Änderungen bei Firmen erzwingen, deren Compliance-Regeln davon ausgehen, dass nichts gespeichert wird.
• Governance: Kunden wünschen sich durchsuchbare Protokolle zu Eingaben, Ausgaben, Fehlern und Agentenaktionen des Modells sowie zentrale Kontrollen zum Schutz sensibler Daten und geistigen Eigentums.
• Das Harness: In einem eigenen Benchmark von Databricks erreichte dasselbe Modell in einem Harness 61,7 %, in einem anderen 48,1 % und ohne Harness 38,4 %. Das Unternehmen folgert, dass Evaluierungen Modell und Harness gemeinsam testen sollten.
• Fortschritte bei Open-Weight: Die besten Open-Weight-Modelle erreichen in Benchmarks inzwischen ein vergleichbares Niveau wie führende Frontier-Modelle, bei geringeren Kosten. Vor achtzehn Monaten war das laut Databricks noch nicht der Fall.

Warum Databricks Open-Weight-Modelle bevorzugt

Databricks beschreibt drei Vorteile. Der erste ist das, was das Unternehmen kommodifizierte Intelligenz nennt: Open-Weight-Optionen bieten inzwischen Parität mit den besten Frontier-Modellen zu einem Bruchteil der Kosten, was einen besseren Return on Investment bei KI-Projekten ermögliche. Der zweite ist Datensouveränität. Wer Modelle auf selbst kontrollierter Infrastruktur betreibt, behält die Hoheit über Compliance, Sicherheit und Datenspeicherung und verringert das Risiko späterer, nicht konformer Änderungen. Der dritte ist operative Autonomie: Teams können Workloads ausführen, die durch die Guardrails von Frontier-Modellen blockiert werden könnten, etwa bei der Reaktion auf Cybersicherheitsvorfälle.

Der Beitrag enthält eine Kosten-Rangliste von DeepSWE, die einige führende Open-Weight-Modelle mit proprietären Pendants vergleicht. Databricks weist darauf hin, dass der Vergleich nach Ermessen der Autoren gefiltert ist.

Ein Gateway für Open-Weight-, Frontier- und externe Modelle

Die praktische Seite des Angebots ist Unity Gateway, das Open-Weight- und Frontier-Modelle über eine einheitliche API mit zentraler Governance bereitstellt. Teams können Modelle per Konfiguration oder Smart Routing wechseln, ohne den Code zu ändern. Databricks zufolge ist die durchschnittliche Zahl der pro Kunde genutzten Modelle seit Januar von 4,2 auf 7,1 gestiegen, und rund 40 % dieser Modelle seien Open-Weight gewesen.

Bei der Geschwindigkeit setzt Databricks nach eigenen Angaben auf maßgeschneiderte Inferenz-Engines und optimierte Kernels auf Frontier-GPUs. Das Unternehmen verweist auf Artificial Analysis, das für GLM 5.3 (max) auf Databricks eine End-to-End-Antwortzeit von 9,1 Sekunden gemessen hat, einschließlich Eingabeverarbeitung, Reasoning und Generierung. Im Beitrag heißt es, dies schneide im Vergleich zu erstklassigen Managed Endpoints gut ab.

Zu den aufgeführten Governance-Funktionen zählen:

• Smart Routing, das Sitzungen an das jeweils kosteneffiziente Modell für die Aufgabe leitet, sodass Routinearbeit von Frontier-Modellen abwandert.
• Fallback-Ketten, die automatisch umleiten, wenn ein Modell Ratenlimits erreicht oder ein Anbieter ausfällt.
• Budgets mit Ausgabenobergrenzen pro Nutzer, Team oder Anwendungsfall, in abgestuften Varianten von weichen Warnungen bis zu strikten Richtlinien, die Sitzungen auf günstigere Modelle umleiten.
• Zentrale Governance für Tools und Skills, einschließlich der Registrierung von External MCP Servern, die über verwaltete Proxys laufen und zentral geprüft werden.
• Anbindungen an externe Anbieter wie Amazon Bedrock und Azure AI Foundry, die über dieselbe Governance-Schicht geleitet werden.

Die Nutzung verschiebt sich, und Databricks kauft GPUs

Databricks zufolge fiel das Erscheinen von GLM 5.2 mit einem starken Anstieg der Open-Weight-Nutzung auf Unity Gateway zusammen. Nachdem das Modell Mitte Juli verfügbar wurde, machte es einen Monat später bereits rund 40 % der auf der Plattform genutzten Open-Weight-Tokens aus. Da das Wachstum bei der Kundenzahl relativ konstant blieb, deutet das Unternehmen dies so, dass bestehende Kunden mehr KI-Traffic auf Open-Weight-Modelle verlagern. GLM 5.3 und Kimi K3 böten Kunden zusätzliche Open-Weight-Optionen zur Evaluierung.

Um diese Nachfrage zu bedienen, kündigte Databricks im Juli eine Finanzierungsrunde über 3 Milliarden US-Dollar an. CEO Ali Ghodsi sagte gegenüber CNBC, bei der Kapitalaufnahme gehe es teilweise darum, GPU-Kapazität für das Hosting offener Modelle zu sichern. „Uns gehen überall die GPUs aus … in Japan, Korea, den USA und Indien, also mussten wir viele davon beschaffen, und dafür braucht es viel Geld“, sagte er, wie im Beitrag zitiert.

Entwickler können außerdem ihre bevorzugten Tools behalten. Seit Ende Juli können auf Unity Gateway bereitgestellte Modelle, darunter GLM 5.3, in Coding-Harnesses von Anbietern wie Codex und OpenCode laufen, weitere sollen folgen. Das Gateway stellt pro Harness OpenAI-kompatible Endpunkte bereit, sodass die Einrichtung laut Databricks eine reine Konfigurationsänderung ist.

Was das für Unternehmenskunden bedeutet

Der Beitrag ist das Plädoyer eines Anbieters, und seine Benchmark- und Nutzungszahlen stammen von Databricks oder aus von dem Unternehmen ausgewählten Quellen. Innerhalb dieser Grenzen ist die Botschaft an Unternehmen klar: Systeme nicht an einen einzelnen Anbieter binden, Modelle gemeinsam mit ihren Harnesses testen und eine Governance-Schicht vorhalten, die Modellwechsel ermöglicht, ohne die Kontrollen zu schwächen. Databricks zufolge wollen Unternehmen Kosten senken, ohne Produktivitätsgewinne zu verlieren, ihre operative Freiheit bewahren und neue Modelle schnell übernehmen. Unity Gateway positioniert das Unternehmen als die Architektur dafür.