NVIDIA B200
CoreWeave macht NVIDIA-HGX-B200-Instanzen allgemein verfügbar
CoreWeave hat seine Instanzen auf Basis von NVIDIA HGX B200 allgemein verfügbar gemacht und erweitert damit den Zugang zur Blackwell-Hardware über die erste…
Aleph Alpha: Bits-per-Byte-Metrik benachteiligt kurze Antworten, PriorBPB soll das beheben
Forschende von Aleph Alpha sagen, dass die weit verbreitete Metrik Bits-per-Byte (BPB) zur Bewertung vortrainierter Sprachmodelle durch die Länge der richtigen Antwort…
ForschungAleph Alpha skaliert Pre-Training eines 30B-A3B-MoE-Modells auf 512 B200-GPUs mit 35,3 % MFU
Aleph Alpha hat einen Forschungsbeitrag veröffentlicht, der erklärt, wie das Pre-Training eines 30B-A3B-Mixture-of-Experts-Modells von 16 auf 512 NVIDIA-B200-GPUs…