PyTorch
Databricks streamt Unity-Catalog-Daten per Beta direkt auf GPUs
Databricks hat UCDataset als Beta-Version in AI Runtime veröffentlicht. Der native PyTorch-Dataloader streamt Unity-Catalog-Tabellen direkt auf GPUs. Nach Angaben des…
Google gibt Pathways für das Training großer Modelle allgemein frei
Google hat die allgemeine Verfügbarkeit von Pathways auf der Google Cloud Platform angekündigt. Das verteilte System wurde entwickelt, um große Modelle wie Gemini zu…
vLLM übernimmt stabile LibTorch-ABI für einfachere PyTorch-Upgrades
vLLM hat seinen CUDA-Build auf die stabile LibTorch-ABI von PyTorch umgestellt. Damit funktionieren die stabilen v0.33.0-CUDA-Wheels mit LibTorch-ABI über kompatible…
Ray gründet Special Interest Group für die Unterstützung von Beschleunigern
Die Ray-Community hat eine Special Interest Group (SIG) für Hardwarebeschleuniger ins Leben gerufen. Sie soll eine gemeinsame, herstellerneutrale Roadmap dafür…
PyTorch 2.15 macht neu geschriebenes NCCL-Backend zum Standard und bringt FP8 auf Apple Silicon
PyTorch 2.15 ist erschienen, und das neu geschriebene NCCL-Backend läuft jetzt standardmäßig für jede nccl-Prozessgruppe. Das Release ergänzt außerdem einseitige…
Arm SME2 verkürzt Streaming-Spracherkennung auf dem Pixel 11 um bis zu Faktor 2,12
Eine PyTorch-Fallstudie zeigt: Die Matrixerweiterung SME2 von Arm verkürzt die Verarbeitungszeit einer gesamten Aufnahme mit dem Streaming-Sprachmodell Nemotron 3.5 auf…
PyTorch Conference 2026: TPU- und Trainium-Backends sowie neun neue Mitglieder
Die PyTorch Conference North America 2026 in San Jose hat mehr als 3.500 Teilnehmer angezogen und Neuigkeiten zu nativen PyTorch-Backends für Google TPUs und AWS…
PyTorch Foundation ernennt 24 Botschafter für 2026 in fünf Regionen
Die PyTorch Foundation hat die Gruppe ihres Ambassador-Programms für 2026 benannt: 24 Community-Leader aus fünf Programmregionen. Laut Foundation sollen sie Workshops…
Vultr tritt der Agentic AI Foundation als Gold-Mitglied bei und will offene Agenten-Stacks voranbringen
Der Cloud-Infrastrukturanbieter Vultr ist der Agentic AI Foundation (AAIF) als Gold-Mitglied beigetreten. Nach eigenen Angaben will das Unternehmen die Arbeit der…
TorchTitan bekommt mit TitanRL Reinforcement Learning und unterstützt neue Frontier-Modelle
Die Plattform TorchTitan von PyTorch unterstützt jetzt Reinforcement Learning, und zwar über die neue Komponente TitanRL. Hinzu kommen native Unterstützung für mehrere…
PyTorch erhält FlyDSL-Backend für schnellere Operatoren auf AMD-MI350-GPUs
PyTorch-Nutzer mit GPUs der AMD-MI350-Serie können FlyDSL-Kernel jetzt über die bestehenden Operator-APIs für GEMM, Attention, RMSNorm und TopK verwenden. Laut dem…
i14 bringt Linear-Attention-Modell Laplace 3B mit nativem PyTorch auf AWS Trainium2
Das KI-Forschungsunternehmen i14 hat sein Linear-Attention-Modell Laplace 3B mit nativem PyTorch auf AWS Trainium2 trainiert und betrieben, wie aus einem AWS-Blogbeitrag…
PyTorch Foundation nimmt neun neue Mitglieder auf, darunter Nebius, Nscale und Shopify
Die PyTorch Foundation, die bei der Linux Foundation angesiedelte Anlaufstelle für Open-Source-KI, hat neun neue Mitglieder aufgenommen. Nebius, Nscale und Shopify…
Nebius tritt der PyTorch Foundation als Platinum-Mitglied bei und erhält einen Sitz im Vorstand
Nebius, das in Amsterdam ansässige KI-Cloud-Unternehmen, ist der PyTorch Foundation als Platinum-Mitglied beigetreten, wie die Stiftung mitteilte. Mit der Mitgliedschaft…
Google und Meta starten TorchTPU, ein natives PyTorch-Backend für TPUs
Google und das PyTorch-Team von Meta haben TorchTPU vorgestellt, ein Open-Source-Backend, das PyTorch nativ auf Google-TPUs ausführt. Nach Angaben der Projektautoren…
PyTorch-Team erklärt MLIR-Dataflow-Backend, das KTIR in Code für IBM Spyre übersetzt
Ein neuer PyTorch-Blogbeitrag beschreibt, wie torch-spyre die Entscheidungen von Inductor zur Arbeitsaufteilung in Programme für IBMs Beschleuniger Spyre überführt. Der…
Ray unterstützt jetzt natives PyTorch auf Google TPUs, melden Anyscale und Google Cloud
Anyscale und Google Cloud haben native Ray-Unterstützung für PyTorch auf Google TPUs angekündigt. Die Lösung basiert auf Googles Projekt TorchTPU und auf KubeRay in der…
Hugging Face bringt native TPU-Unterstützung über das PyTorch-Backend TorchTPU
Hugging Face teilt mit, dass Transformers, Diffusers und Kernels jetzt nativ auf Googles TPUs laufen. Möglich macht das TorchTPU, ein natives PyTorch-Backend, das die…
PyTorch 2.15 bringt FP8 und deutlich schnelleres MoE-Decoding auf den Mac
PyTorch 2.15 unterstützt float8_e4m3fn im MPS-Backend und lässt Mixture-of-Experts-Modelle auf Apple Silicon laut dem PyTorch-Team von Hugging Face 5- bis 6,5-mal…
Google und Meta bringen TorchTitan mit PyTorch-nativen Trainingsrezepten auf TPUs
Google hat TorchTitan TPU veröffentlicht, einen Fork von Metas TorchTitan, mit dem Entwickler PyTorch-Modelle auf Google Cloud TPUs mit fertigen verteilten…
PyTorch Helion kann jetzt NVIDIA-Compiler-Steuerung zusammen mit GPU-Kernel-Einstellungen optimieren
Der Autotuner von PyTorch Helion kann jetzt Compiler-Einstellungen unterhalb der Kernel-Ebene gemeinsam mit seinen üblichen Kernel-Konfigurationen durchsuchen. Die…
TorchNeuron bringt native PyTorch-Unterstützung für AWS-Trainium-Chips
PyTorch hat TorchNeuron vorgestellt, ein quelloffenes natives Backend, mit dem Entwickler bestehenden PyTorch-Code auf AWS Trainium ausführen können, indem der Chip als…
Googles LiteRT Tensor API: On-Device-Modelle Operation für Operation in C++ bauen
Google hat die LiteRT Tensor API veröffentlicht, eine schlanke Authoring-Schicht im LiteRT-Stack. Damit lassen sich Modellgraphen Operation für Operation in C++ aufbauen…
ExecuTorch erhält Cortex-M-Backend: PyTorch-Modelle laufen auf Mikrocontrollern
PyTorch hat ExecuTorch um ein Cortex-M-Backend erweitert. PyTorch-Modelle laufen damit direkt auf Arm-Cortex-M-CPUs, beschleunigt durch CMSIS-NN. Laut dem PyTorch-Team…