B300
Baseten verkürzt Delta-Weight-Sync für GLM-5.3 von 36 auf 15 Sekunden
Ein Delta-Weight-Sync für einen rund 770 GB großen GLM-5.3-Checkpoint dauert bei Baseten nun 15 Sekunden mit einer Anfragepause von 0,8 Sekunden. Im bisherigen Design…
Ai2 ersetzt Prioritäten-Scheduler durch GPU-Zeitbudgets, um wirkungsvolle Forschung zu finanzieren
Ai2 hat den prioritätsbasierten Scheduler auf seinen GPU-Clustern durch ein System aus GPU-Zeitbudgets, hierarchischer Fair-Share-Zuteilung und einem…
Modal Clusters sind allgemein verfügbar: Multi-Node-GPU-Zugriff mit einer einzigen Codezeile
Modal hat Modal Clusters allgemein verfügbar gemacht. Entwickler können damit Multi-Node-GPU-Workloads über einen einzigen Decorator starten, @modal.clustered. Laut…