PyTorch Foundation nimmt neun neue Mitglieder auf, darunter Nebius, Nscale und Shopify

Wer beigetreten ist und auf welcher Stufe

Die Stiftung nannte neun neue Mitglieder auf drei Stufen. Auf Platinum-Ebene sind es Nebius, Nscale und Shopify Inc. Die Silver-Stufe wächst um die LightSeek Foundation und Lablup Inc. Vier Associate-Mitglieder komplettieren die Liste: SKOPOS INDIA FOUNDATION, Siksha 'O' Anusandhan, Messiah University und Valencia College.

Die Stiftung betreut neben dem eigentlichen PyTorch-Framework auch vLLM, DeepSpeed, Ray, Helion und Safetensors. Nach Angaben der Stiftung findet KI-Innovation inzwischen auf allen Ebenen des Stacks gleichzeitig statt: Forschung, Modelle, Infrastruktur, Hardware und Produktivbetrieb treiben sich gegenseitig an. Die Foundation sieht sich als zentrale Drehscheibe dieses Ökosystems.

Mark Collier, Executive Director der PyTorch Foundation, sagte: "Open systems learn faster when more people, projects, and organizations are working together, creating compounding gains."

Was die neuen Mitglieder sagen

Mehrere der neuen Mitglieder erläuterten ihre Beweggründe in Statements, die der Ankündigung beilagen.

• Lablup: Mitgründer und CEO Jeongkyu Shin sagte, das Unternehmen habe Backend.AI von Beginn an als Open-Source-Projekt entwickelt, und auf der Plattform liefen täglich PyTorch-Workloads.
• LightSeek Foundation: Präsident und Mitglied des Governing Board Yineng Zhang erklärte, effiziente Inferenz sei entscheidend, um KI weltweit zugänglich zu machen, und die dahinterliegende Infrastruktur müsse offen sein.
• Nebius: Ryan Hanrui Wang, Senior Vice President, Applied AI, sagte, die Platinum-Mitgliedschaft ermögliche eine intensivere Zusammenarbeit mit der Community und erlaube es, die Expertise des Unternehmens in Hochleistungsinfrastruktur und angewandter KI einzubringen.
• Nscale: Nick Jones, VP of Cloud Native Platform Engineering, sagte, das Unternehmen behandle Framework und Rechenzentrum als ein gemeinsames Problem. Zudem merkte er an, dass Anyscale, die Entwickler von Ray, zu Nscale stoßen soll.

Meilensteine im Ökosystem neben der Mitgliedernachricht

Die Stiftung führte außerdem jüngste Entwicklungen im PyTorch-Ökosystem auf.

• ExecuTorch auf Arm Cortex-M: ExecuTorch bietet nun einen direkten Weg vom PyTorch-Training zur Inferenz auf dem Gerät. Das Cortex-M-Backend führt PyTorch-Modelle auf Arm-Cortex-M-CPUs mit Arm-CMSIS-NN-Beschleunigung aus und unterstützt die Stufen Scalar, DSP und MVE/Helium in einem einzigen Workflow.
• TorchNeuron: Ein quelloffenes, natives PyTorch-Backend für AWS Trainium, darunter Amazon-EC2-Instanzen vom Typ Trn2 und Trn3. Forschende können PyTorch-Workloads damit mit einer einzigen Konfigurationsänderung ausführen.
• TorchTPU: Google kündigte natives PyTorch für TPU-Entwickler an. Modelle lassen sich damit mit minimalen Codeänderungen auf TPUs bereitstellen, mit Zugriff auf Projekte wie vLLM, SGLang, Ray und LLM-d.
• IBM Spyre: Der Software-Stack von IBM erweitert den Inductor-Compiler und die native Runtime von PyTorch. Laut Ankündigung verringert das den Spyre-spezifischen Compiler-Code um den Faktor 7, bei gleichbleibender Leistung in getesteten Workloads. Unterstützt werden Tausende Modelle über 44 Adapter und rund 10.000 Codezeilen.
• Fallstudie Shopify: Mit einer Continual-Learning-Schleife aus PyTorch und vLLM überführt Shopify täglich Fehler aus dem Produktivbetrieb in Modellgewichte. Nach Angaben der Stiftung übertrifft das Unternehmen damit die Qualität von Frontier-Modellen und senkt die Betriebskosten um 96 %.

Was das für die Open-Source-KI-Community bedeutet

Mit den neuen Mitgliedschaften wächst die Mitgliederliste der Stiftung um Infrastrukturanbieter, eine große Handelsplattform, eine forschungsorientierte Stiftung und mehrere Bildungseinrichtungen. Für Entwicklerinnen und Entwickler deuten die Neuigkeiten aus dem Ökosystem auf eine größere Hardware-Reichweite von PyTorch hin, von Arm-Mikrocontrollern über AWS Trainium und Google-TPUs bis zu IBM Spyre.

Die Stiftung beschreibt sich als herstellerneutrale Heimat der Open-Source-Schicht, mit der sich Modelle auf jedem Chip in jeder Cloud trainieren, optimieren, bereitstellen, orchestrieren und ausführen lassen. Die Konferenz in San Jose deckt den gesamten KI-Stack ab, von Bare-Metal-Infrastruktur bis zu Anwendungen und Agenten.