Megatron-LM
Novita Sandbox integriert sich für agentisches RL-Training in Miles
Novita Sandbox ist jetzt als Sandbox-Anbieter in Miles gelistet, dem Open-Source-Framework von RadixArk für Reinforcement Learning in großem Maßstab und das Nachtraining…
Lila Sciences und Anyscale trainieren GLM-5.3-Flash mit Sequenzen aus 1 Mio. Tokens
Lila Sciences und Anyscale haben das offene Modell GLM-5.3-Flash mit Sequenzen aus 1 Million Tokens auf 64 B200-GPUs trainiert. Nach Angaben der Teams erweitert die…
NVIDIA senkt Kosten für bitweise deterministisches Pretraining in Megatron Core auf rund 2 Prozent
NVIDIA hat nach eigenen Angaben den Mehraufwand für bitweise deterministisches Pretraining in Megatron Core auf etwa 2 Prozent bei 2.432 GPUs gesenkt. Die Läufe blieben…
CoreWeave meldet 51 bis 52 % MFU und 3,66 Tage MTTF im Test mit 1.024 H100-GPUs
CoreWeave zufolge hat ein sechswöchiger Benchmark mit bis zu 1.024 NVIDIA-H100-GPUs eine Model FLOPs Utilization (MFU) von 51 bis 52 Prozent und eine mittlere Zeit bis…