Künstliche Intelligenz, aktuell.
Direkt aus den Originalmeldungen.

Intel und RadixArk optimieren SGLang für offene KI-Inferenz

12. November 2026, 21:30Von der KI Nachrichten RedaktionQuelle: Intel
Intel und RadixArk optimieren SGLang für offene KI-Inferenz
Bild: Intel

Intel und RadixArk arbeiten gemeinsam an der Optimierung von SGLang, einem Open-Source-Stack für KI-Inferenz, für Intel-Plattformen. Nach Angaben der Unternehmen soll die Arbeit Entwickler und Unternehmen dabei unterstützen, führende KI-Modelle bereitzustellen und KI-Anwendungen effizienter und kostengünstiger zu entwickeln.

Das Wichtigste in Kürze
  • Intel und RadixArk arbeiten an der Optimierung von SGLang.
  • SGLang ist ein Open-Source-Stack für KI-Inferenz.
  • Die Arbeit zielt auf Intel-CPUs, GPUs und Beschleuniger.
  • Intel nennt Intel AMX als eine der unterstützten Hardwarebeschleunigungsfunktionen.
  • Die Unternehmen wollen Flexibilität und Effizienz beim Einsatz von Unternehmens-KI verbessern.

Optimierung für Intel-Plattformen

Die Zusammenarbeit umfasst Intel-CPUs, GPUs und Beschleuniger. Die Unternehmen verfolgen dabei einen offenen Ansatz für Software zur KI-Inferenz. Intel erklärte, die Arbeit solle Entwicklern und Unternehmen effizientere Möglichkeiten bieten, Modelle über ihre Infrastruktur hinweg bereitzustellen.

SGLang ist ein Open-Source-Stack für Inferenz. Nach Angaben von Intel wird die Zusammenarbeit den Stack für Intel-Plattformen optimieren und Entwicklern Software für den produktiven Einsatz in Unternehmen bereitstellen. Dazu gehören laut dem Unternehmen auch die sogenannte „Day-0-Bereitschaft“ sowie leistungsstarke Inferenzsoftware, die direkt für die Intel-Hardware optimiert ist.

Anil Nanduri, Vice President of AI Products & GTM in der Intel Data Center Group, erklärte, Unternehmens-KI bewege sich von isolierten Leistungsbenchmarks hin zu vollständigen Produktionsumgebungen. Die Zusammenarbeit gebe Entwicklern die Freiheit, die für ihre Anforderungen am besten geeigneten Tools, Frameworks und Technologien auszuwählen.

Was Entwickler erhalten

Intel erklärte, die Zusammenarbeit erweitere die Auswahl für Entwickler, die führende KI-Modelle auf der in Unternehmen erprobten Hardware des Konzerns bereitstellen wollen. Modellbauer und Softwareingenieure können Standard-Frameworks und offene Schnittstellen nutzen und zugleich von der Rechendichte und den integrierten Hardwarebeschleunigungsfunktionen von Intel profitieren, darunter Intel Advanced Matrix Extensions oder Intel AMX.

Nach Angaben des Unternehmens können Entwickler von einer schnelleren Zeit bis zur Produktionsreife, geringerer Latenz und flexiblen Bereitstellungsoptionen über bestehende Rechenzentrums- und Cloud-Kapazitäten hinweg profitieren. Dabei handelt es sich um Aussagen des Unternehmens zu den erwarteten Vorteilen der Zusammenarbeit und nicht um Leistungswerte aus der Ankündigung.

Ying Sheng, CEO von RadixArk, bezeichnete die Zusammenarbeit als Meilenstein für die Open-Source-KI-Inferenz. RadixArk erklärte, das Unternehmen werde umfassende Optimierungen in das Kern-Framework zurückführen. Damit sollen offene Standards erhalten bleiben und zugleich Leistung und Flexibilität für Entwicklungsteams verbessert werden.

Ein offener Ansatz für KI im Produktionseinsatz

Intel ordnete die Partnerschaft in einen Ansatz ein, der Hardware- und Softwareoptimierung durch Beiträge zu Community-Software verbindet. Statt Hardware und Software als voneinander getrennte Entscheidungen für die Bereitstellung zu behandeln, können Beiträge zu verbreiteten Engines und Frameworks laut dem Unternehmen leistungsstarke Wege schaffen, um Modelle in skalierbare, produktionsreife Anwendungen zu überführen.

Die Ankündigung steht im Kontext zunehmend komplexer KI-Modelle und heterogener Unternehmensinfrastrukturen. Intel erklärte, für KI im Produktionseinsatz müssten Anfragen an das passende Ziel weitergeleitet werden, indem Workloads mit geeigneter Intelligenz, Rechenleistung und Kostenstruktur abgeglichen werden. Offene Inferenz-Laufzeiten bezeichnete das Unternehmen als verbindendes Element, um Full-Stack-Bereitstellungen in unterschiedlichen Unternehmensumgebungen praktisch, zuverlässig und wirtschaftlich nachhaltig zu machen.

Für Nutzer besteht das erklärte Ziel in einer größeren Auswahl beim Aufbau und bei der Bereitstellung von KI-Anwendungen auf Intel-Infrastruktur. Die Quelle nennt weder einen Veröffentlichungstermin noch eine konkrete Liste unterstützter Modelle oder gemessene Leistungswerte. Die unmittelbare Bedeutung liegt daher in der geplanten Optimierung und der Arbeit an der Weiterentwicklung der Open-Source-Software und nicht in einem quantifizierten Produktstart.

Ähnliche Meldungen

SambaNova und Intel zeigen luftgekühltes KI-Inferenzsystem
Chips und Infrastruktur16. November 2026, 05:47

SambaNova und Intel zeigen luftgekühltes KI-Inferenzsystem

SambaNova und Intel zeigen ein luftgekühltes Inferenzsystem, das Intel-GPUs der D-Series für das Prefill mit SambaNova SN50 RDUs für das Decode kombiniert. Nach Angaben…

Berry Street übernimmt MyScribe und holt Gründer ins KI-Team
Wirtschaft15. November 2026, 22:24

Berry Street übernimmt MyScribe und holt Gründer ins KI-Team

Berry Street hat die Technologie und das geistige Eigentum des klinischen KI-Assistenten MyScribe übernommen. Gründer Dr. Wasif Bokhari wechselt als Leitender…

Novita Sandbox integriert sich für agentisches RL-Training in Miles
Für Entwickler6. November 2026, 11:00

Novita Sandbox integriert sich für agentisches RL-Training in Miles

Novita Sandbox ist jetzt als Sandbox-Anbieter in Miles gelistet, dem Open-Source-Framework von RadixArk für Reinforcement Learning in großem Maßstab und das Nachtraining…