NVIDIA öffnet Vera-Rubin-Rack-Designs für OCP und will so den Ausbau von KI-Fabriken beschleunigen

MGX 1.2 und das Vera-CPU-Rack

Laut NVIDIA bietet der Beitrag Systemherstellern eine gemeinsame Grundlage für die Entwicklung der KI-Fabrik-Infrastruktur der nächsten Generation. NVIDIA beteiligte sich gemeinsam mit führenden Branchenvertretern über die Open DC Initiative des OCP am MGX-Referenzdesign für KI-Rechenzentren der dritten Generation. Zusammen mit offenen Flüssigkeitskühlungstechnologien wie MQD und MQDB soll das Vorhaben bewährte Designs für KI-Fabriken zu Industriestandards machen, die andere übernehmen, fertigen und skalieren können.

Für Vera-Rubin-KI-Fabriken ergänzt die aktualisierte MGX-1.2-Spezifikation eine Blind-Mate-Flüssigkeitskühlung auf Rack-Ebene, eine interoperable Rack-Scale-Interconnect-Infrastruktur sowie eine flüssigkeitsgekühlte 5.000-A-Stromschiene für Hochleistungs-KI-Systeme. Hinzu kommen native Unterstützung für 19-Zoll-Equipment und Rack-Designs mit höherer Dichte. Laut NVIDIA erweitert MGX 1.2 die Modularität durch konfigurierbare I/O-Schächte, lüfterlose, flüssigkeitsgekühlte Compute Trays sowie standardisierte Strom- und Kühlschnittstellen. Die Architektur unterstützt Rack-Installationen mit bis zu 250 kW, und das Unternehmen gibt an, dass sich damit Montage-, Test- und Wartungszeiten verbessern.

Eine separate Designspezifikation für ein Vera-CPU-Rack erweitert MGX über beschleunigtes Rechnen hinaus. NVIDIA beschreibt es als Plattform für agentische KI. Während Vera Rubin NVL72 die Grundlage für Training und Inferenz im großen Maßstab bildet, soll das Vera-CPU-Rack Tool Calling, Orchestrierung und Ausführung in Sandboxes unterstützen und KI-Agenten dabei helfen, in Echtzeit mit Anwendungen, Daten und Diensten zu interagieren.

Open-Source-Komponenten für die DSX AI Factory

NVIDIA hat zudem DSX OS, die offene Betriebsebene seiner DSX-AI-Factory-Plattform, um Open-Source-Komponenten erweitert. Sie dienen der Netzwerkkonfiguration, der Validierung von Clustern, der Rack-Verwaltung und der Bereitstellung von Bare-Metal-Systemen:

• NVIDIA Config Manager automatisiert Switch-Konfigurationen im großen Maßstab, mit minimalem bis gar keinem manuellen Eingriff.
• NVIDIA Cluster Readiness Engine unterzieht GPU-Cluster mit realistischen Workload-Simulationen einem Stresstest, um den Zustand der Hardware vor Trainingsbeginn zu prüfen.
• NVIDIA Rack Management Service bietet Hardware-Abstraktion auf Rack-Ebene und behandelt Racks bei der Firmware-Verwaltung als vollwertige Einheiten.
• Cluster API Provider for NVIDIA Infrastructure Controller beschleunigt die Bare-Metal-Bereitstellung und das Onboarding von Mandanten. Laut NVIDIA wird so aus roher Hardware in Stunden statt Tagen ein produktionsreifer Cluster.

Die Komponenten entstanden aus NVIDIAs Erfahrung im Betrieb von NVIDIA DGX Cloud. Laut Unternehmen können Cloud-Anbieter und Softwarepartner damit Funktionen von KI-Fabriken in Multi-Tenant-Plattformen integrieren. Entwickler können sich auf der GitHub-Seite der DSX AI Factory informieren und selbst Beiträge leisten.

Neue offene Standards und Partnerankündigungen

Gemeinsam mit AMD, Google und Meta veröffentlichte NVIDIA die Open Data Center Specification v0.7, einen Bauplan für die Auslegung von KI-Fabrik-Anlagen, der Stromarchitektur, Kühlinfrastruktur und physische Anordnung abdeckt. Google, Meta, Microsoft und NVIDIA veröffentlichten außerdem die OCP Grid Resilience Specification. Sie legt fest, wie sich KI-Infrastruktur im großen Maßstab bei Störungen im Stromnetz verhalten soll: am Netz bleiben, automatisch reagieren und innerhalb von weniger als zwei Sekunden nahezu die volle Last wiederherstellen.

Laut NVIDIA geben die offenen Spezifikationen Geräteherstellern, Colocation-Anbietern und Rechenzentrumsbetreibern ein gemeinsames Ziel vor, ohne dass sie auf proprietäre Vorgaben einzelner Kunden warten müssen. Das Unternehmen fügt hinzu, dass sein DSX-Referenzdesign mit beiden Spezifikationen kompatibel ist.

Weitere Ankündigungen auf der Veranstaltung:

• Meta und NVIDIA trieben offenes KI-Networking mit NVIDIA Spectrum-X Ethernet SuperNIC und Neuerungen bei Spectrum-6 voran.
• NVIDIA und Cisco kündigten den Standard Ultra-Dense Small Form Factor Pluggable (USFP) an, den sie als das branchenweit erste Modul für 400-Gb/s-basierte Netzwerk-Fabrics bezeichnen.
• NVIDIA und Google kündigten Unterstützung für Falcon Transport auf künftigen NVIDIA ConnectX-10 SuperNICs und BlueField DPUs an.
• Visionbay stellte Pläne für K-1 vor, eine KI-Fabrik-Plattform auf Basis einer 800-VDC-Architektur mit Strom- und Thermiktechnik von Vertiv, die mit Blick auf künftige Vera-Rubin-Installationen entwickelt wurde.

Visionbays Design soll die 800-VDC-Verteilung dort schrittweise einführen, wo sie am meisten bringt, statt vom ersten Tag an eine vollständige Umstellung zu verlangen. Es nutzt Power Center auf Cluster-Ebene, die die AC-DC-Wandlung zentralisieren und 800 VDC näher an die Rechenlast verteilen.

Was das für die Branche bedeutet

NVIDIA versteht die Ankündigungen als Antwort darauf, dass KI-Fabriken von Megawatt auf Gigawatt wachsen, was nach Unternehmensangaben mehr als fortschrittliche Rechentechnik erfordert. Ian Buck, Vice President für Hyperscale und High-Performance Computing bei NVIDIA, sprach auf dem Summit über offene Infrastruktur als entscheidende Zutat für den weltweiten Ausbau von KI-Fabriken.

Für Betreiber, die Vera-Rubin-KI-Fabriken aufbauen, gibt es laut NVIDIA nun einen direkten Weg vom offenen Community-Standard zum laufenden System. Für Hersteller und Rechenzentrumsbetreiber bieten die veröffentlichten Designs und Spezifikationen nach Angaben des Unternehmens gemeinsame Zielvorgaben, an denen sie sich beim Bau orientieren können.