Equinix Inference Exchange mit NVIDIA und Together AI soll im ersten Quartal 2027 starten

Was Equinix Inference Exchange vereint

Nach Angaben von Equinix soll Inference Exchange den Weg von der GPU bis zur Inferenz im Produktivbetrieb verkürzen. Das Unternehmen argumentiert, dass der Ort, an dem Inferenz läuft, inzwischen über Leistung, Kosten und Governance entscheidet. Wenn Unternehmens-KI vom Pilotprojekt in den Produktivbetrieb übergeht, muss die Inferenz nah an den Nutzern, Daten und Anwendungen liegen, die sie bedient, und zwar über alle Clouds, Modelle und Anbieter einer Umgebung hinweg.

Die Wahl dieses Standorts und seine Anbindung an alles, wovon ein Workload abhängt, erhöhen laut Equinix die operative Komplexität, und das ausgerechnet in einem Moment, in dem Unternehmen mehr Kontrolle und Transparenz benötigen. Inference Exchange wird als Antwort auf diese Entscheidung positioniert.

Das Angebot kombiniert drei Elemente:

• NVIDIA Enterprise Reference Architectures
• die Inferenzplattform von Together AI mit mehr als 200 Open-Source-Modellen
• Equinix-Rechenzentren, die über Equinix Fabric mit den Clouds, Netzwerken und KI-Anbietern verbunden sind, auf die Inferenz angewiesen ist

Equinix zufolge erhalten Kunden dadurch einen schnelleren Weg vom Experiment in die Produktion, mit sicherer, latenzarmer Anbindung an das Ökosystem, das sie bereits nutzen.

Wer was liefert

Equinix stellt die Infrastruktur bereit: KI-taugliche Rechenzentren mit Stromversorgung, moderner Kühlung und Day-two-Betrieb, die über Equinix Fabric mit Clouds, Netzwerken und KI-Anbietern verbunden sind.

NVIDIA bildet mit Enterprise Reference Architectures und beschleunigtem Computing das Fundament. Laut Equinix sind diese darauf ausgelegt, den Durchsatz von KI-Fabriken zu maximieren und die Kosten pro Token zu senken.

Together AI betreibt darauf die Inferenzplattform. Sie bietet Multi-Tenant-Deployments für gemeinsam genutzte Effizienz oder dedizierte Single-Tenant-Umgebungen für Workloads, die reservierte Kapazität benötigen. Dank der OpenAI-kompatiblen API können Teams Modelle wechseln, ohne Integrationen neu schreiben zu müssen, so Equinix.

Das Unternehmen verweist zudem auf seine Reichweite: mehr als 280 Rechenzentren, 77 Metropolregionen, 230 Cloud-Zugangspunkte und über 10.500 miteinander vernetzte Unternehmen. Acht der zehn führenden Anbieter von KI-Modellen und neun der zehn führenden KI-Clouds seien bei Equinix vertreten.

Drei vorgesehene Anwendungsfälle

Metro-Edge-Inferenz. Unternehmen betreiben Inferenz nah an Nutzern und Daten, um KI-Anwendungen mit geringerer Latenz zu ermöglichen, gestützt auf die physische Sicherheit, die operative Skalierung und die globale Reichweite von Equinix.

Migration auf offene Modelle. Unternehmen verlagern produktive Workloads von geschlossenen, proprietären Modellen auf Open-Source-Alternativen. Die Plattform von Together AI ist über dieselben Fabric-Verbindungen erreichbar wie andere Anbieter, womit Kunden laut Equinix Kosten kontrollieren und Lock-in vermeiden können.

Souveräne KI. Organisationen betreiben KI-Workloads an Standorten, die Anforderungen an Datenresidenz und Souveränität erfüllen, und behalten die Kontrolle darüber, wo Daten und Inferenz verarbeitet werden.

Was das für Unternehmenskunden bedeutet

Die Ankündigung spiegelt eine Verschiebung in der Unternehmens-KI vom Pilotprojekt zur Produktion wider: Die Frage lautet weniger, welches Modell zum Einsatz kommt, sondern wo es laufen soll und wie es an bestehende Clouds und Anbieter angebunden ist. Equinix setzt darauf, dass ein neutraler Interconnection-Hub darauf eine Antwort geben kann.

Adaire Fox-Martin, CEO und Präsidentin von Equinix, sagte, Inference Exchange werde „Architekturen ermöglichen, die von Grund auf neutral, standardmäßig offen und auf außergewöhnliche Leistung ausgelegt sind“.

Da der Dienst erst im ersten Quartal 2027 starten soll, bietet der GTC-Auftritt Interessenten die Gelegenheit, ihre Platzierungspläne mit dem Equinix-Team zu besprechen. Angaben zu Preisen oder zur genauen Verfügbarkeit nach Region enthält die Quelle nicht.