Helion
PyTorch Helion kann jetzt NVIDIA-Compiler-Steuerung zusammen mit GPU-Kernel-Einstellungen optimieren
Der Autotuner von PyTorch Helion kann jetzt Compiler-Einstellungen unterhalb der Kernel-Ebene gemeinsam mit seinen üblichen Kernel-Konfigurationen durchsuchen. Die…
Für EntwicklerHelion bringt automatisch abgestimmte GEMM-Kernel in vLLM und schlägt CUTLASS und DeepGEMM auf Hopper
Das PyTorch-Team hat Helion, seine Python-basierte Kernel-DSL, in das Linear-Backend von vLLM integriert. Laut dem Team übertrifft Helion auf NVIDIA-Hopper-GPUs in allen…