llama.cpp erreicht Version 1.0.0 mit stabiler API- und ABI-Politik

Hugging Face hat llama.cpp v1.0.0 veröffentlicht. Damit erreicht das Projekt seine erste Hauptversion und legt klarere Kompatibilitätsregeln für Entwickler fest, die auf seinen C- und C++-Bibliotheken aufbauen. Die Veröffentlichung umfasst auch ggml v1.0.0, die von llama.cpp verwendete Tensorbibliothek.
- llama.cpp v1.0.0 und ggml v1.0.0 sind veröffentlicht.
- Hauptversionssprünge kennzeichnen inkompatible Änderungen an API und ABI.
- llama.cpp unterstützt mehr als 150 Architekturvarianten.
- Das Projekt führt Vorabversion-Artefakte für Desktop-, Mobil- und Container-Plattformen auf.
- Dedizierte Backends unterstützen Hardware von NVIDIA, AMD, Qualcomm, Arm, IBM und Intel.
Eine Hauptversion mit Fokus auf Kompatibilität
In einem Artikel vom 13. November 2026 erklärte das llama.cpp-Team, das Projekt sei in den 3,5 Jahren seit seiner Entstehung erheblich gewachsen. Viele nachgelagerte Anwendungen seien inzwischen auf die Arbeit des Projekts angewiesen. Das Team bezeichnete die Veröffentlichung von v1.0.0 als Reaktion auf diese Verantwortung, insbesondere weil sich immer mehr Entwickler auf die Schnittstellen der Bibliotheken stützen.
Künftig werden sowohl llama.cpp als auch ggml Hauptversionssprünge verwenden, um inkompatible Änderungen an API und ABI zu kennzeichnen. Das Projekt will diese Grenzen für nachgelagerte Nutzer sichtbarer machen, während die Verbreitung weiter zunimmt.
In der Veröffentlichung wird llama.cpp v1.0.0 als LLM-Inferenzbibliothek in C und C++ beschrieben. Die öffentlichen Header-Dateien liegen unter llama.cpp/include/. ggml v1.0.0 wird als Tensorbibliothek für maschinelles Lernen bezeichnet, deren öffentliche Header-Dateien unter ggml/include/ liegen.
Was die Regeln für semantische Versionierung bedeuten
Die genannten Regeln für semantische Versionierung gelten für alle ggml-org-Projekte, die semantische Versionierung verwenden. Eine Erhöhung der Hauptversion weist auf eine inkompatible Änderung an der öffentlichen C-API in ./include hin. Eine Erhöhung der Nebenversion umfasst abwärtskompatible Funktionen, Backend-Aktualisierungen, Modellunterstützung oder eine API-Erweiterung. Patch-Versionen sind für Fehlerbehebungen ohne API-Änderung reserviert.
Diese Struktur gibt Entwicklern eine Möglichkeit, Änderungen zu unterscheiden, die möglicherweise Anpassungen erfordern, von solchen, die voraussichtlich kompatibel bleiben. Die Ankündigung stellt die Richtlinie als Teil der Bemühungen des Projekts dar, eine flexible, aber stabile API für Anwendungen rund um llama.cpp und ggml bereitzustellen.
Hardware-Unterstützung und Pläne für die Verteilung
llama.cpp ist darauf ausgelegt, multimodale LLMs auf Hardware auszuführen, die von lokalen Geräten für Endverbraucher bis hin zu leistungsstarken Unternehmensservern reicht. Das Projekt nutzt Quantisierung, optimierte Backends und eine portable Implementierung in C/C++, um lokale Inferenz über den gesamten Software-Stack hinweg zu unterstützen.
Die zugrunde liegende ggml-Engine verwendet dedizierte Backends, die als dynamische Bibliotheken kompiliert und optional zur Laufzeit geladen werden können. Nach Angaben des Teams unterstützt llama.cpp derzeit mehr als 150 Architekturvarianten und alle gängigen Verfahren für spekulatives Decoding. Zur unterstützten Hardware gehören NVIDIA, AMD, Qualcomm, Arm, IBM und Intel.
Vorabversion-Artefakte sind für Linux, macOS, Windows, Android und iOS aufgeführt. Das Projekt nennt außerdem Docker für Linux, Homebrew für macOS und Linux, conda-forge für Windows, macOS und Linux, MacPorts für macOS, Winget für Windows sowie XCFramework für iOS und macOS.
Warum die Veröffentlichung für Entwickler lokaler KI wichtig ist
Die Veröffentlichung stärkt nach Angaben des Projektteams die Grundlage für Entwickler, die mit llama.cpp plattformübergreifende und private KI-Produkte entwickeln. Die Kompatibilitätsrichtlinie kann es nachgelagerten Anwendungen erleichtern, Änderungen nachzuverfolgen. Die breite Unterstützung von Backends und Modellen ermöglicht zudem den Einsatz auf unterschiedlichen Hardwareumgebungen.
Das Team erklärt außerdem, in die Infrastruktur für kontinuierliche Integration zu investieren. Dabei kommen Technologien von Hugging Face zum Einsatz, darunter HF Buckets und HF Jobs, um die Kapazitäten für die Prüfung von Änderungen in den Master-Branches zu skalieren. Die Ankündigung betont, dass das Projekt trotz der beschleunigten Entwicklung Codequalität, architektonische Kontrolle und ein Verständnis der Implementierungsdetails bewahren will.
Hugging Face: llama.cpp v1.0.0 : A stronger foundation for the local AI ecosystem

