Künstliche Intelligenz, aktuell.
Direkt aus den Originalmeldungen.

Lambda plant erstklassige Run:ai-Unterstützung für seinen Kubernetes-Dienst

13. Oktober 2026, 16:32Von der KI Nachrichten RedaktionQuelle: Lambda
Lambda plant erstklassige Run:ai-Unterstützung für seinen Kubernetes-Dienst
Bild: Lambda

Lambda will Run:ai zu einer erstklassigen Option im Lambda Kubernetes Service (LKS) machen, nachdem NVIDIA den GPU-Scheduler als Open Source freigegeben hat. Der KI-Cloud-Anbieter erklärt, Run:ai bereits seit 2022 auf seiner Infrastruktur zu unterstützen.

Das Wichtigste in Kürze
  • Lambda begrüßt NVIDIAs Entscheidung, Run:ai als Open Source freizugeben, und plant, es zu einer erstklassigen Option im Lambda Kubernetes Service (LKS) zu machen.
  • Lambda unterstützt Run:ai nach eigenen Angaben seit 2022 auf seiner Infrastruktur.
  • Run:ai ergänzt Kubernetes laut Lambda um GPU-Sharing und quotenbasierte Planung.
  • LKS enthält bereits eine automatische Knotenreparatur, die fehlerhafte GPU-Knoten sperrt, leert und neu validiert.
  • Lambda arbeitet mit NVIDIA an einer verwalteten KI-Softwarebibliothek mit Run:ai und Slurm; einen Termin nannte das Unternehmen nicht.

Warum Lambda Run:ai in LKS integrieren will

In einem Blogbeitrag vom 13. Oktober 2026 erklärt Lambda, die Entscheidung von NVIDIA, Run:ai als Open Source freizugeben, zu begrüßen und an der Integration in LKS zu arbeiten. Ziel sei es laut Lambda, die Funktionen von Run:ai leichter einführbar und betreibbar zu machen, sodass Teams mehr Kontrolle darüber erhalten, wie sie GPU-Kapazität zuteilen und gemeinsam nutzen.

Lambda beschreibt das Problem als ungenutzte Kapazität. KI-Workloads stellen sehr unterschiedliche Anforderungen an GPUs: Eine Debugging-Sitzung braucht vielleicht nur einen Bruchteil einer GPU, eine Evaluierung startet womöglich viele unabhängige Jobs, und verteiltes Training benötigt unter Umständen viele eng gekoppelte GPUs gleichzeitig. Werden ganze GPUs an kleine Jobs vergeben, müssen Forschende laut Lambda warten, während nutzbare Kapazität reserviert bleibt. Dieselbe Reibung entstehe zwischen Teams, wenn die Experimente einer Gruppe hinter der ungenutzten Zuteilung einer anderen in der Warteschlange hängen.

Was Run:ai leistet

Run:ai ist ein GPU-Scheduler für Kubernetes. Laut Lambda ergänzt er zwei Funktionen, die der Standard-Scheduler von Kubernetes nicht bietet:

  • GPU-Sharing, sodass mehrere Workloads auf einer einzigen GPU laufen können.
  • Quotenbasierte Planung, sodass Teams eine garantierte Zuteilung erhalten, aber ungenutzte Kapazität voneinander ausleihen können.

In der Praxis läuft das auf GPU-Anteile und Scheduling-Richtlinien hinaus. Mit Anteilen können Workloads Teile des GPU-Speichers anfordern und gemeinsam nutzen. Die Richtlinien erlauben es Projekten, freie Kapazität für unterbrechbare Jobs auszuleihen und zurückzugeben, sobald andere Teams ihren Anteil benötigen. Das Ergebnis sei laut Lambda eine höhere GPU-Auslastung in einem gemeinsam genutzten Cluster, ohne dass sich die Teams manuell abstimmen müssen.

Automatische Knotenreparatur hält GPUs gesund

Lambda betont, dass Sharing und Preemption voraussetzen, dass die zugrunde liegende GPU gesund ist, was im großen Maßstab nicht garantiert sei. Das Unternehmen nennt XID-Fehler der Beschleuniger, beeinträchtigte NVLink- und PCIe-Verbindungen, neu zugeordnete Speicherzeilen und InfiniBand-Ports, die unter die erwartete Rate fallen. Ein Scheduler könne eine gesunde GPU nicht von einer ausfallenden unterscheiden und schicke daher womöglich weiter Jobs an einen Knoten, der sie verliert.

Genau diesen Teil verantwortet laut Lambda LKS. LKS ist verwaltetes Kubernetes auf Lambda-GPUs, und die automatische Reparatur ist dort bereits heute enthalten. Lambda überwacht jeden Knoten auf diese Fehler und stellt sie jeweils als standardmäßige Kubernetes-Node-Condition dar. Tritt einer auf, wird der Knoten gesperrt (cordon), damit nichts Neues darauf geplant wird, und laufende Arbeit wird abgezogen (drain). Der Fehler wird dann entweder automatisch behoben oder an die Hardware-Reparatur eskaliert, und der Knoten kehrt erst nach erneuter Validierung zurück.

Eine KI-Softwarebibliothek auf der Roadmap

Laut Lambda ist die GPU-Planung die Ebene, die das Unternehmen bewusst offen lässt. LKS bewegt sich in Richtung einer KI-Softwarebibliothek: Scheduler, die auf Kubernetes laufen, etwa Slurm und Run:ai, sollen als verwaltete Komponenten bereitgestellt werden, die Lambda gegen die eigene Hardware validiert und aktuell hält, statt sie von Hand aus Helm-Charts zusammenzusetzen.

Run:ai sei ein erstklassiges Ziel für diese Bibliothek, und Lambda arbeite dafür mit NVIDIA zusammen. Die Open-Source-Freigabe mache das erst möglich, argumentiert das Unternehmen, denn so könne Lambda Run:ai als Teil von LKS paketieren, testen und pflegen, statt Kunden Integrationsanleitungen an die Hand zu geben. Lambda strebt nach eigenen Angaben eine sofort einsatzbereite Integration an, bei der das Unternehmen Paketierung, Validierung und laufenden Betrieb übernimmt.

Was das für Kunden bedeutet

Der Beitrag legt eine Absicht dar, keine Veröffentlichung. Zu Termin oder Verfügbarkeit von Run:ai in LKS macht er keine Angaben. Lambda beschreibt vielmehr eine Richtung: Teams entscheiden, wie sie ihre GPUs zuteilen und gemeinsam nutzen, während die Plattform dafür sorgt, dass diese gesund und verfügbar bleiben. Lambda, das nach eigener Aussage offene Forschung betreibt, sieht in NVIDIAs Schritt eine Ausweitung der Möglichkeit, Werkzeuge einzusehen, anzupassen und zu verbessern, nun auch auf die Orchestrierung. Interessierte Teams verweist das Unternehmen auf seine Kubernetes-Seiten, die Dokumentation oder seine Machine-Learning-Ingenieure.

LambdaNVIDIARun:aiLambda Kubernetes ServiceRechenzentrenCloudChips

Ähnliche Meldungen

Vultr wird von IDC als Major Player für KI in der Public Cloud eingestuft
Chips und Infrastruktur12. November 2026, 16:21

Vultr wird von IDC als Major Player für KI in der Public Cloud eingestuft

Vultr wurde im IDC MarketScape: Worldwide Public Cloud AI Infrastructure as a Service 2026-2027 Vendor Assessment als Major Player eingestuft. Nach Angaben des…

NVIDIA öffnet NVKE und NVKR für GPU-basierte Kubernetes-Dienste
Für Entwickler10. November 2026, 16:00

NVIDIA öffnet NVKE und NVKR für GPU-basierte Kubernetes-Dienste

NVIDIA hat zwei Open-Source-Projekte vorgestellt: NVIDIA Kubernetes Engine und NVIDIA Kubernetes Recipes. Sie dienen dem Aufbau und Betrieb verwalteter…

NVIDIA bringt Koreas führende offene Modelle mit Dynamo in die Produktion
Für Entwickler9. November 2026, 06:00

NVIDIA bringt Koreas führende offene Modelle mit Dynamo in die Produktion

NVIDIA veröffentlicht für Dynamo optimierte Bereitstellungsrezepte für vier der führenden offenen Modelle Koreas, darunter Modelle von SK Telecom, LG AI Research…