NVIDIA H100
CoreWeaves CAIOS erreicht auf NVIDIA Blackwell Ultra mehr als 7 GB/s pro GPU
CoreWeave zufolge hat der Dienst AI Object Storage (CAIOS) in Tests auf 16 NVIDIA-Blackwell-Ultra-Nodes im Schnitt mehr als 7 GB/s pro GPU erreicht. Das ist nach Angaben…
CoreWeave meldet 6,5-fach bessere DeepSeek-R1-Inferenz auf NVIDIA GB300 NVL72
CoreWeave zufolge liefern die neuen Instanzen auf Basis von NVIDIA GB300 NVL72 mit Blackwell-Ultra-GPUs bei der Inferenz des Reasoning-Modells DeepSeek R1 eine 6,5-fach…
Red Hat AI 3.5: Chat und Batch teilen sich eine GPU ohne Latenzeinbußen
Red Hat AI 3.5 macht prioritätsbasiertes Serving allgemein verfügbar. Chat-, Batch- und agentische Last teilen sich damit einen GPU-Pool, interaktive Anfragen kommen…
Databricks: KI-Forschungsteam startet dank AI Runtime achtmal mehr Trainingsjobs
Das hauseigene KI-Forschungsteam von Databricks hat nach eigenen Angaben die Zahl der Trainingsjobs in seinen AI-Functions-Workloads um das Achtfache gesteigert, seit es…
Flo Health trimmt offenes Modell mit Databricks: medizinische Sicherheit steigt auf rund 61 Prozent
Flo Health, die Frauengesundheits-App mit 81 Millionen monatlich aktiven Nutzern, hat mit Databricks AI Runtime ein offenes Modell feinabgestimmt und den kombinierten…
CoreWeave meldet 51 bis 52 % MFU und 3,66 Tage MTTF im Test mit 1.024 H100-GPUs
CoreWeave zufolge hat ein sechswöchiger Benchmark mit bis zu 1.024 NVIDIA-H100-GPUs eine Model FLOPs Utilization (MFU) von 51 bis 52 Prozent und eine mittlere Zeit bis…
CoreWeave erhält 100 Millionen US-Dollar von Magnetar und plant NVIDIA-H100-Zugang im ersten Quartal 2023
CoreWeave meldet, dass Magnetar das Unternehmen mit 100 Millionen US-Dollar unterstützt. Das Geld soll in den Ausbau der GPU-beschleunigten Cloud-Infrastruktur auf Basis…
CoreWeave und NVIDIA trainieren MLPerf-Benchmark GPT-3 in unter 11 Minuten
CoreWeave und NVIDIA haben nach eigenen Angaben den neuen MLPerf-Benchmark GPT-3 175B in unter 11 Minuten trainiert, und zwar mit mehr als 3.500 NVIDIA H100 Tensor Core…
CoreWeave unterstützt torchforge: Reinforcement Learning lässt sich in der Cloud skalieren
CoreWeave unterstützt in seiner Cloud jetzt torchforge, ein mit PyTorch skalierbares Framework für Reinforcement Learning. Forschende können es über SUNK, CoreWeaves…