Lambda stellt auf der NVIDIA GTC Berlin Confidential Bare Metal und Sicherheitswerkzeuge für KI-Agenten vor

Confidential Computing auf Bare Metal

Lambda, das sich selbst als Superintelligence Cloud bezeichnet, ist Gold-Sponsor der GTC Berlin. Nach Angaben des Unternehmens wünschen sich Kunden vor allem, KI im großen Maßstab sicherer, geschützter und effizienter betreiben zu können. Workloads verlagern sich von einzelnen Trainingsläufen hin zu dauerhaft laufender Inferenz und autonomen Agenten. Das wirft Fragen auf: Wie lassen sich Daten schützen, wie Agenten kontrollieren und wie mehr Leistung aus demselben Strom herausholen?

Die erste Ankündigung betrifft den Datenschutz. Laut Lambda verlassen sich Entwickler von Frontier-Modellen zunehmend auf Cloud-Anbieter, um Modelle zu trainieren und bereitzustellen. Viele bevorzugen dabei Bare-Metal-Zugriff, weil er die Arbeit mit mehreren Anbietern erleichtert. Wer auf Infrastruktur läuft, die ihm nicht gehört, muss den Schutz von geistigem Eigentum und sensiblen Daten besonders ernst nehmen.

Lambda unterstützt nun Confidential Bare Metal, das NVIDIA Confidential Computing auf dedizierte Infrastruktur von Drittanbietern ausweitet. Laut Lambda helfen hardwarebasierte Isolation und kryptografische Attestierung, Modelle und Daten während der Ausführung zu schützen und zu überprüfen, ob die Rechenumgebung vertrauenswürdig ist. Zusammen mit Confidential Containers und Confidential Virtual Machines können Modellentwickler so ihren Software-Stack auf Bare-Metal-Instanzen betreiben und dabei ihre Vertrauensgrenzen und betrieblichen Anforderungen einhalten. NVIDIA Confidential Computing wird außerdem auf NVIDIA-Grace-Blackwell- und NVIDIA-Vera-Rubin-Systeme ausgeweitet.

Sicherheit für Agenten und Überwachung der Infrastruktur

Beim Thema Agenten erinnerte Lambda daran, dass es sich im September NVIDIA angeschlossen hat, um offene Sicherheit für Agenten zu unterstützen. Nun unterstützt das Unternehmen die NVIDIA OpenShell Reference Architecture. Sie baut auf der sicheren Runtime-Software NVIDIA OpenShell auf und erweitert sie zu einer durchgängigen Infrastruktur im industriellen Maßstab für Entwicklung und Betrieb von Agenten.

Aufbauend auf seinen Investitionen in NVIDIA Vera Rubin kombiniert Lambda nach eigenen Angaben Modell-Rechenleistung, kontrollierte Agentenausführung und unabhängige Durchsetzung von Sicherheitsregeln. Da diese Durchsetzung außerhalb der eigenen Ausführungsumgebung des Agenten stattfindet, können Teams den Aktionsradius von Agenten erweitern und behalten dennoch die Kontrolle über die Tools, Daten und Systeme, auf die diese zugreifen können.

Bei der Zuverlässigkeit argumentiert Lambda, Rechenleistung sei keine austauschbare Massenware: Mit wachsenden Clustern könne schon eine einzelne beeinträchtigte Komponente einen ganzen Workload verlangsamen oder zum Stillstand bringen. Das Unternehmen plant deshalb den Einsatz von NVIDIA Minerva, einer AIOps-Plattform (AI for IT Operations), die Telemetriedaten von GPUs, Netzwerken, Speicher, Schedulern und KI-Workloads verknüpft. Ein dynamischer Wissensgraph ordnet Infrastrukturkomponenten den laufenden Jobs zu, während spezialisierte KI-Modelle Anomalien erkennen, drohende Ausfälle vorhersagen und zusammengehörige Warnungen korrelieren, um wahrscheinliche Ursachen zu identifizieren. Das erklärte Ziel von Lambda für die Nutzer: weniger Unterbrechungen von Workloads, schnellere Fehlerbehebung, höherer Goodput und mehr erzeugte Token.

Mehr Token bei gleichem Strombudget

Laut Lambda wird der Strombedarf zu einer zentralen Beschränkung für KI-Infrastruktur. In einem Proof of Concept auf NVIDIA-HGX-Systemen betrieb das Unternehmen mit der Software NVIDIA DSX MaxLPS 19 Nodes im selben gesamten Strombudget wie eine Baseline mit 16 Nodes. Lambda berichtet von rund 24 % höherem Token-Durchsatz im gesamten Cluster und rund 23 % höherer Leistung pro Watt. Die Ergebnisse sind in einer NVIDIA-Fallstudie mit Lambda beschrieben.

Diese Zahlen stammen aus einem Proof of Concept und wurden vom Unternehmen selbst angegeben, nicht aus einem Produktivbetrieb.

Was das für KI-Teams bedeutet

Lambda präsentiert die Ankündigungen als Paket aus Sicherheit, Agentensicherheit, Zuverlässigkeit und Effizienz. Es soll KI-Teams helfen, Workloads zu schützen, die Kontrolle über Agenten zu behalten und mehr aus ihrer Infrastruktur herauszuholen. Für Modellentwickler, die mehrere Cloud-Anbieter nutzen, zielt Confidential Bare Metal darauf ab, die Flexibilität von Bare Metal zu erhalten und zugleich überprüfbare Isolation hinzuzufügen.

Besucher der GTC Berlin finden Lambda die ganze Woche über am Stand 7022. Das Unternehmen will dort NVIDIA Nemotron und OpenShell in Demos zeigen, Entscheidungen zu Kapazität, Bereitstellung und Produktionsreife besprechen und Fragen zu seinem Angebot für Mitglieder von NVIDIA Inception beantworten.