Google Cloud und NVIDIA: A5X-Instanzen mit Vera Rubin werden allgemein verfügbar

Was A5X vereint

Laut NVIDIA bringen A5X-Instanzen NVIDIA Vera Rubin NVL72, NVIDIA ConnectX-9 SuperNICs, das Google Cloud Virgo Network und die Flüssigkeitskühlung der vierten Generation von Google Cloud zusammen. Zielgruppe sind anspruchsvolle agentische Inferenz- und Reinforcement-Learning-Workloads im großen Maßstab. Die Plattform soll Cloud-Kunden ein integriertes System für Training, Inferenz und Reinforcement Learning in großem Umfang bieten.

NVIDIA zufolge bringt A5X Vera Rubin als integriertes System aus Rechenleistung, Netzwerk und Speicher in den AI Hypercomputer von Google Cloud. Damit soll Lernen durch Interaktion unterstützt werden, das einen kontinuierlichen Kreislauf erfordert: Erfahrungen erzeugen, Ergebnisse bewerten und Modelle aktualisieren.

Erste Kunden: Ineffable Intelligence und WPP

Ineffable Intelligence, ein Technologieunternehmen aus London, das von AlphaGo-Schöpfer David Silver gegründet wurde, war der erste Kunde mit Zugang zu A5X. Das Unternehmen nutzt die Plattform, um Reinforcement Learning im großen Maßstab voranzubringen und "Superlearner"-Systeme zu entwickeln, die kontinuierlich aus Erfahrung lernen.

Silver, Gründer und CEO von Ineffable Intelligence, sagte in der Ankündigung von NVIDIA: "Wir bauen Superlearner, die sich durch ihre eigene Erfahrung fortlaufend verbessern." Das erfordere enorme Rechenleistung und eine enge Verbindung zwischen dem Erzeugen von Erfahrung und dem Training darauf. Er verwies auf die hohe Bandbreite zwischen der Vera-CPU und den Rubin-GPUs sowie zwischen den Rubin-GPUs innerhalb des Racks.

WPP, ein Marketing- und Kommunikationsunternehmen aus London, hat seine Referenzarchitektur für kreative Agenten auf Vera-Rubin-basierten A5X-Instanzen demonstriert. Dabei kamen NVIDIA-Nemotron-Modelle und NVIDIA OpenShell zum Einsatz, Teil der NVIDIA OpenShell Reference Architecture für sichere KI-Agenten. Die Agenten setzen Anfragen im Dialog in mehrstufige kreative Workflows um, etwa Videogenerierung, Upscaling und Restyling, wobei vor der Ausführung ein Mensch zustimmt. OpenShell stellt kontrollierte Sandboxes für die Ausführung der Agenten bereit und hilft, den Zugriff auf sensible Markenassets und Kreativwerkzeuge zu steuern. In den ersten Tests von WPP liefen Workloads, für die üblicherweise ein Multi-Node-Cluster nötig ist, laut NVIDIA auf einer einzigen A5X-Instanz.

Confidential Computing und Energieeffizienz

Die Ankündigung betrifft auch den Datenschutz. NVIDIA weist darauf hin, dass Organisationen, die agentische Systeme einsetzen, proprietäre Modelle und sensible Daten schützen müssen, selbst auf Infrastruktur, die ihnen nicht gehört. Google Cloud wird zu den ersten Cloud-Anbietern gehören, die NVIDIA Confidential Computing auf Rack-Ebene auf Bare-Metal-Instanzen anbieten, etwa auf A4X-Max-Instanzen mit NVIDIA GB300 NVL72.

Außerdem macht Google Cloud Confidential Computing auf G4-VMs mit NVIDIA RTX PRO 6000 Blackwell Server Edition GPUs allgemein verfügbar. Die Plattform wird als flexible Lösung für vertrauliche Inferenz und Fine-Tuning positioniert. Vertebrae, Polaris Cloud und Confidential Core AI setzen Confidential G4 für private Konversationen, überprüfbare Agentenausführung und richtliniengesteuerte Unternehmensintelligenz ein.

Beim Thema Energie prüfen Google Cloud und NVIDIA die Funktionen von NVIDIA DSX MaxLPS für Vera-Rubin-basierte Infrastruktur. Ziel ist es, die Leistung pro Watt zu optimieren und die Kapazität innerhalb der verfügbaren Strombudgets der Rechenzentren zu erweitern.

Was das für Kunden bedeutet

Für Cloud-Kunden bedeutet die Nachricht, dass im kommenden Monat auf Google Cloud eine Vera-Rubin-basierte Option für agentische Inferenz und Reinforcement Learning erscheint, die Verfügbarkeit in Europa ist geplant. Der genannte Umfang von bis zu 960.000 Rubin-GPUs an mehreren Standorten zeigt, welche Kapazität Google Cloud aufbauen will. Organisationen mit sensiblen Workloads erhalten zudem Confidential-Computing-Optionen auf G4-VMs, mit geplanter Unterstützung auf Rack-Ebene für Bare-Metal-Instanzen wie A4X Max.