NVIDIA veröffentlicht gds-diag: Open-Source-Tool prüft GPUDirect-Storage-Umgebungen

Was gds-diag leistet

NVIDIA GPUDirect Storage beschleunigt den Speicherzugriff von GPUs in lokalen und Cloud-Umgebungen. Laut NVIDIA bietet die Technik einen Datenpfad zwischen NVIDIA-GPUs und Speicherzielen, der die Bandbreite erhöht, die Latenz senkt und die Auslastung von CPU und Arbeitsspeicher reduziert. Die Konfiguration beginnt jedoch damit, zu verstehen, welche Einstellungen und Speicherpfade zu einer bestimmten Plattform und Arbeitslast passen. NVIDIA zufolge gibt es zwar umfangreiche Dokumentation, doch Nutzer müssten sich durch sie arbeiten, um ihre Installation zu optimieren.

Das Tool gds-diag wurde vom GPUDirect-Storage-Team entwickelt, um diese Arbeit zu vereinfachen. Es handelt sich um ein einzelnes Python-Skript mit mehreren Unterbefehlen, die jeweils eine eigene Diagnoseaufgabe übernehmen. Das Tool verändert das System nicht eigenständig. Jeder Befund enthält eine Erklärung und einen Maßnahmenplan, doch gds-diag setzt diesen Plan nicht um. Das bleibt dem Nutzer oder Administrator überlassen.

Unterbefehle und Darstellung der Befunde

NVIDIA ordnet die Unterbefehle vier Kategorien zu, je nach Phase der Bereitstellung oder untersuchtem Problem:

• Durchgängige Prüfungen: all wählt passende Diagnosen für die Umgebung aus und führt sie nacheinander aus. Es funktioniert auf Bare-Metal-Systemen, in virtuellen Maschinen und in Container-Umgebungen.
• Vorbereitung der Installation: pre-install prüft die GPU-Unterstützung und die Installation des CUDA Toolkits, support-matrix zeigt unterstützte Speicherziele.
• Validierung einer Installation: post-install prüft, ob GDS korrekt installiert ist, und erkennt Blocker. config-audit überprüft Konfigurationsdateien und Umgebungsvariablen, die das Verhalten von GDS beeinflussen.
• Tiefgehende Diagnose: container-check bewertet die GDS-Unterstützung in containerd, Docker, Enroot und Kubernetes, mount-check diagnostiziert einen bestimmten Mountpoint oder ein Verzeichnis.

Die meisten Ausgaben erscheinen als Befunde, nach Abschnitten gruppiert und jeweils mit einem Statusabzeichen versehen. FAIL steht für einen harten Blocker, WARN für einen möglichen Blocker, INFO für bemerkenswerte Informationen und PASS für einen unauffälligen Befund. PASS wird nur mit der Option --verbose angezeigt. Berichte lassen sich zudem mit der Option --json als strukturiertes JSON ausgeben. NVIDIA zufolge kann das hilfreich sein, wenn Befunde in ein anderes Tool eingespeist oder archiviert werden sollen.

Eine Ausnahme bildet der Unterbefehl support-matrix, der eine Tabelle mit Fußnoten ausgibt. Die Option --static zeigt allgemeine Daten, --live bezieht Informationen aus dem System in seiner aktuellen Konfiguration ein. Grüne Einträge sind vollständig unterstützt, gelbe hängen von architektonischen oder konfigurationsbedingten Einschränkungen ab, rote werden nicht unterstützt.

In einer Demonstration nutzte NVIDIA config-audit mit der Option --config, um eine Konfigurationsdatei im Entwurfsstadium zu prüfen. Das Audit deckte einen falsch geschriebenen Eintrag auf, und nach der Korrektur bestätigte das Tool, dass die Konfiguration gültig war.

Der optionale Agenten-Skill

Zu gds-diag gehört ein optionaler Agenten-Skill, der eine Schnittstelle in natürlicher Sprache und eine Orchestrierungsebene hinzufügt. Laut NVIDIA deutet der Skill die Absicht des Nutzers, wählt die passenden Unterbefehle aus, ruft sie auf und koordiniert mehrstufige Diagnose-Workflows. Zudem nutzt er modellgestütztes Schlussfolgern, um Ergebnisse zu interpretieren, relevanten Systemkontext einzubeziehen und Abhilfemaßnahmen vorzuschlagen oder durchzuführen.

Der Skill wird automatisch aktiviert, wenn das gds-diag-Repository in einem Coding-Assistenten wie Claude oder Codex geöffnet wird. Er lässt sich auch ausdrücklich mit dem Schlüsselwort /gds-diag auslösen, was laut NVIDIA bei Fragen zu GDS in natürlicher Sprache aber nicht zwingend nötig ist. NVIDIA gibt an, dass gds-diag sowohl mit Claude als auch mit Codex validiert wurde, mit anderen Tools aber möglicherweise ebenfalls funktioniert. Der Skill versucht nicht, die deterministischen Prüfungen nachzubilden, die das Kommandozeilentool bereits liefert.

Installation und Voraussetzungen

gds-diag benötigt ein Linux-System mit Python 3.8 oder neuer; weitere Abhängigkeiten müssen nicht installiert werden. GPUDirect Storage selbst setzt eine NVIDIA-GPU der Rechenzentrumsklasse und das NVIDIA CUDA Toolkit 12.2 oder neuer voraus, diese sind aber keine Abhängigkeiten von gds-diag. Das Tool wird als Teil des GitHub-Repositorys NVIDIA Magnum IO verteilt und lässt sich per git clone https://github.com/NVIDIA/MagnumIO.git installieren.

Nutzer können zwischen zwei Nutzungsmodellen wählen. Das Kommandozeilentool bietet laut NVIDIA einen deterministischen Weg mit minimalen Abhängigkeiten. Der KI-Agenten-Modus gilt als intuitivste und flexibelste Option, bei der die Determiniertheit des zugrunde liegenden Tools erhalten bleibt. NVIDIA empfiehlt ihn, wo er verfügbar ist.

Was das für Administratoren bedeutet

Für Teams, die GDS einführen, bietet gds-diag eine zentrale Anlaufstelle, um die Einsatzbereitschaft vor der Installation zu prüfen, sie danach zu verifizieren und Probleme mit Containern oder Mountpoints zu untersuchen. Da das Tool Probleme und Maßnahmenpläne meldet, ohne das System zu verändern, behalten Administratoren die Kontrolle über Änderungen. Die JSON-Ausgabe und der Agenten-Skill eröffnen zwei weitere Wege: Ergebnisse in andere Werkzeuge einzuspeisen oder Diagnosen in natürlicher Sprache durchzugehen.