vLLM
Kinference: Buoyant veröffentlicht Open-Source-Control-Plane für Inferenz mit vLLM
Buoyant hat Kinference veröffentlicht, eine Open-Source-Control-Plane für den Aufbau von Inferenzplattformen auf Basis von vLLM und Kubernetes. Laut Unternehmen senkte…
vLLM bietet Unterstützung für Moonshot AIs Kimi K3.1 Pro ab Tag 0
vLLM hat ab Tag 0 Unterstützung für Moonshot AIs Kimi K3.1 Pro hinzugefügt, ein multimodales Mixture-of-Experts-Modell mit offenen Gewichten, 2.8T Parametern und einem…