NCCL
NVIDIA: Reshard kann die Refitting-Zeit bei Reinforcement Learning verkürzen
NVIDIA hat den Reshard-Kollektiv vorgestellt, eine Kommunikationsmethode, die den Transfer aktualisierter Modellgewichte zwischen Trainings- und Inferenz-GPUs beim…
NVIDIA stellt Attribution-Tool als Open Source bereit: Ursachen von Ausfällen bei KI-Workloads aufspüren
NVIDIA hat NVIDIA Attribution als Open Source veröffentlicht, ein System, das Logs, Metriken, Telemetrie und Scheduler-Status korreliert, um zu erklären, warum ein…
PyTorch 2.15 macht neu geschriebenes NCCL-Backend zum Standard und bringt FP8 auf Apple Silicon
PyTorch 2.15 ist erschienen, und das neu geschriebene NCCL-Backend läuft jetzt standardmäßig für jede nccl-Prozessgruppe. Das Release ergänzt außerdem einseitige…
NVIDIA vereinheitlicht GPU-initiiertes Networking im gesamten Software-Stack mit DOCA GPUNetIO
Laut NVIDIA ist das Framework DOCA GPUNetIO zu einer gemeinsamen GDA-KI-Grundlage geworden, über die CUDA-Kernel Netzwerkoperationen direkt steuern können. Bibliotheken…
Modal Clusters sind allgemein verfügbar: Multi-Node-GPU-Zugriff mit einer einzigen Codezeile
Modal hat Modal Clusters allgemein verfügbar gemacht. Entwickler können damit Multi-Node-GPU-Workloads über einen einzigen Decorator starten, @modal.clustered. Laut…