SGLang
Novita Sandbox integriert sich für agentisches RL-Training in Miles
Novita Sandbox ist jetzt als Sandbox-Anbieter in Miles gelistet, dem Open-Source-Framework von RadixArk für Reinforcement Learning in großem Maßstab und das Nachtraining…
Modal veröffentlicht Spindle: Open-Source-Trainingsserver mit Tinker-kompatibler API
Modal hat mit Spindle einen quelloffenen Trainingsserver veröffentlicht, der mit der Tinker-API von Thinking Machines kompatibel ist und im eigenen Modal-Workspace des…
Google bringt PyTorch-native Inferenz-Engines für vLLM und SGLang auf die TPU
Google hat native PyTorch-Backends für vLLM und SGLang auf der TPU gestartet, die auf einer neuen Laufzeitumgebung namens TorchTPU aufbauen. Laut Google wurden die…
Modal zeigt stabiles RL-Training mit Samplern in gemischter Präzision und auf gemischten Beschleunigern
Modal hat nach eigenen Angaben ein großes Modell per Reinforcement Learning (RL) trainiert, dessen Sampler auf sechs Beschleunigertypen und mit mehreren numerischen…
NVIDIA Dynamo führt Session-IDs ein, damit Inferenzserver KI-Agenten folgen können
NVIDIA Dynamo verknüpft die vielen Modellaufrufe eines Agenten jetzt über eine einzige Kennung auf Session-Ebene, sodass der Inferenzserver sie als ein Programm statt…