Equinix, NVIDIA und Together AI starten Inference Exchange für produktive KI

Was die Inference Exchange vereint

Equinix zufolge entscheidet der Ort, an dem Inferenz läuft, inzwischen über Leistung, Kosten und Governance. Wenn Unternehmens-KI vom Pilotprojekt in den Produktivbetrieb wechsle, müsse die Inferenz nah an den Nutzern, Daten und Anwendungen liegen, die sie bedient, und zwar über alle Clouds, Modelle und Anbieter einer Umgebung hinweg. Die Wahl des Standorts und die Anbindung an alles, wovon Workloads abhängen, erhöhe den betrieblichen Aufwand, obwohl Unternehmen mehr Kontrolle und Transparenz benötigten.

Die Equinix Inference Exchange ist für genau diese Entscheidung gedacht. Sie kombiniert drei Elemente:

• NVIDIA Enterprise Reference Architectures
• die Inferenzplattform von Together AI mit mehr als 200 Open-Source-Modellen
• Equinix-Rechenzentren, die über Equinix Fabric mit den Clouds, Netzwerken und KI-Anbietern verbunden sind, auf die Inferenz angewiesen ist

Das Ergebnis sei laut Equinix ein schnellerer Weg vom Experiment in die Produktion, mit sicherer Anbindung bei niedriger Latenz an das Ökosystem, das Kunden bereits nutzen.

Wer was liefert

Equinix stellt die Infrastruktur bereit: KI-taugliche Rechenzentren mit Stromversorgung, moderner Kühlung und Day-two-Betrieb, verbunden über Equinix Fabric. NVIDIA liefert mit den Enterprise Reference Architectures und beschleunigter Datenverarbeitung das Fundament, das laut Equinix darauf ausgelegt ist, den Durchsatz von KI-Fabriken zu maximieren und die Kosten pro Token zu senken.

Together AI betreibt darauf die Inferenzplattform. Sie bietet Multitenant-Deployments für gemeinsam genutzte Effizienz sowie dedizierte Single-Tenant-Umgebungen für Workloads, die reservierte Kapazität benötigen. Über die OpenAI-kompatible API könnten Teams laut Equinix Modelle wechseln, ohne Integrationen neu schreiben zu müssen.

Equinix verweist zudem auf seine Größe: mehr als 280 Rechenzentren, 77 Metropolregionen, 230 Cloud-Anbindungen und über 10.500 vernetzte Unternehmen. Nach Angaben des Unternehmens sind acht der zehn größten KI-Modellanbieter und neun der zehn größten KI-Clouds bei Equinix vertreten.

Drei vorgesehene Einsatzszenarien

Equinix skizziert drei Wege, wie Unternehmen den Dienst nutzen sollen.

• Inferenz am Metro-Edge: Inferenz nah an Nutzern und Daten ausführen, für KI-Erlebnisse mit geringerer Latenz.
• Migration auf offene Modelle: Produktive Workloads von geschlossenen, proprietären Modellen auf Open-Source-Alternativen verlagern. Die Plattform von Together AI ist über dieselben Fabric-Verbindungen erreichbar wie andere Anbieter, sodass Teams Kosten steuern und Lock-in vermeiden können.
• Souveräne KI: KI-Workloads an Standorten betreiben, die Anforderungen an Datenresidenz und Souveränität erfüllen, mit Kontrolle darüber, wo Daten und Inferenz verarbeitet werden.

Verfügbarkeit und Bedeutung

Equinix zeigt das Angebot auf der NVIDIA GTC Berlin, Halle 7, Stand 7037, vom 20. bis 22. Oktober. Der Dienst selbst soll ab dem ersten Quartal 2027 verfügbar sein. Preise nennt die Quelle nicht.

Für Unternehmen lautet das Versprechen: ein zentraler Ort, um Inferenz nah an den eigenen Daten auszuführen und zugleich Zugriff auf mehrere Clouds, Netzwerke und Modellanbieter zu behalten. Adaire Fox-Martin, CEO und Präsidentin von Equinix, sagte: "Equinix Inference Exchange will enable architectures that are neutral by design, open by default and engineered for exceptional performance."