Künstliche Intelligenz, aktuell.
Direkt aus den Originalmeldungen.

llama.cpp erreicht Version 1.0.0 mit stabiler API- und ABI-Politik

13. November 2026, 15:05Von der KI Nachrichten RedaktionQuelle: Hugging Face
llama.cpp erreicht Version 1.0.0 mit stabiler API- und ABI-Politik
Bild: Hugging Face

Hugging Face hat llama.cpp v1.0.0 veröffentlicht. Damit erreicht das Projekt seine erste Hauptversion und legt klarere Kompatibilitätsregeln für Entwickler fest, die auf seinen C- und C++-Bibliotheken aufbauen. Die Veröffentlichung umfasst auch ggml v1.0.0, die von llama.cpp verwendete Tensorbibliothek.

Das Wichtigste in Kürze
  • llama.cpp v1.0.0 und ggml v1.0.0 sind veröffentlicht.
  • Hauptversionssprünge kennzeichnen inkompatible Änderungen an API und ABI.
  • llama.cpp unterstützt mehr als 150 Architekturvarianten.
  • Das Projekt führt Vorabversion-Artefakte für Desktop-, Mobil- und Container-Plattformen auf.
  • Dedizierte Backends unterstützen Hardware von NVIDIA, AMD, Qualcomm, Arm, IBM und Intel.

Eine Hauptversion mit Fokus auf Kompatibilität

In einem Artikel vom 13. November 2026 erklärte das llama.cpp-Team, das Projekt sei in den 3,5 Jahren seit seiner Entstehung erheblich gewachsen. Viele nachgelagerte Anwendungen seien inzwischen auf die Arbeit des Projekts angewiesen. Das Team bezeichnete die Veröffentlichung von v1.0.0 als Reaktion auf diese Verantwortung, insbesondere weil sich immer mehr Entwickler auf die Schnittstellen der Bibliotheken stützen.

Künftig werden sowohl llama.cpp als auch ggml Hauptversionssprünge verwenden, um inkompatible Änderungen an API und ABI zu kennzeichnen. Das Projekt will diese Grenzen für nachgelagerte Nutzer sichtbarer machen, während die Verbreitung weiter zunimmt.

In der Veröffentlichung wird llama.cpp v1.0.0 als LLM-Inferenzbibliothek in C und C++ beschrieben. Die öffentlichen Header-Dateien liegen unter llama.cpp/include/. ggml v1.0.0 wird als Tensorbibliothek für maschinelles Lernen bezeichnet, deren öffentliche Header-Dateien unter ggml/include/ liegen.

Was die Regeln für semantische Versionierung bedeuten

Die genannten Regeln für semantische Versionierung gelten für alle ggml-org-Projekte, die semantische Versionierung verwenden. Eine Erhöhung der Hauptversion weist auf eine inkompatible Änderung an der öffentlichen C-API in ./include hin. Eine Erhöhung der Nebenversion umfasst abwärtskompatible Funktionen, Backend-Aktualisierungen, Modellunterstützung oder eine API-Erweiterung. Patch-Versionen sind für Fehlerbehebungen ohne API-Änderung reserviert.

Diese Struktur gibt Entwicklern eine Möglichkeit, Änderungen zu unterscheiden, die möglicherweise Anpassungen erfordern, von solchen, die voraussichtlich kompatibel bleiben. Die Ankündigung stellt die Richtlinie als Teil der Bemühungen des Projekts dar, eine flexible, aber stabile API für Anwendungen rund um llama.cpp und ggml bereitzustellen.

Hardware-Unterstützung und Pläne für die Verteilung

llama.cpp ist darauf ausgelegt, multimodale LLMs auf Hardware auszuführen, die von lokalen Geräten für Endverbraucher bis hin zu leistungsstarken Unternehmensservern reicht. Das Projekt nutzt Quantisierung, optimierte Backends und eine portable Implementierung in C/C++, um lokale Inferenz über den gesamten Software-Stack hinweg zu unterstützen.

Die zugrunde liegende ggml-Engine verwendet dedizierte Backends, die als dynamische Bibliotheken kompiliert und optional zur Laufzeit geladen werden können. Nach Angaben des Teams unterstützt llama.cpp derzeit mehr als 150 Architekturvarianten und alle gängigen Verfahren für spekulatives Decoding. Zur unterstützten Hardware gehören NVIDIA, AMD, Qualcomm, Arm, IBM und Intel.

Vorabversion-Artefakte sind für Linux, macOS, Windows, Android und iOS aufgeführt. Das Projekt nennt außerdem Docker für Linux, Homebrew für macOS und Linux, conda-forge für Windows, macOS und Linux, MacPorts für macOS, Winget für Windows sowie XCFramework für iOS und macOS.

Warum die Veröffentlichung für Entwickler lokaler KI wichtig ist

Die Veröffentlichung stärkt nach Angaben des Projektteams die Grundlage für Entwickler, die mit llama.cpp plattformübergreifende und private KI-Produkte entwickeln. Die Kompatibilitätsrichtlinie kann es nachgelagerten Anwendungen erleichtern, Änderungen nachzuverfolgen. Die breite Unterstützung von Backends und Modellen ermöglicht zudem den Einsatz auf unterschiedlichen Hardwareumgebungen.

Das Team erklärt außerdem, in die Infrastruktur für kontinuierliche Integration zu investieren. Dabei kommen Technologien von Hugging Face zum Einsatz, darunter HF Buckets und HF Jobs, um die Kapazitäten für die Prüfung von Änderungen in den Master-Branches zu skalieren. Die Ankündigung betont, dass das Projekt trotz der beschleunigten Entwicklung Codequalität, architektonische Kontrolle und ein Verständnis der Implementierungsdetails bewahren will.

Ähnliche Meldungen

Hugging-Face-Seite führt LLMON in Granite 4.1 3B und 8B auf
Modelle12. November 2026, 20:07

Hugging-Face-Seite führt LLMON in Granite 4.1 3B und 8B auf

Hugging Face hat eine Seite mit dem Titel „LLMON: An LLM-Native Markup Language, now in Granite 4.1 3B and 8B“ veröffentlicht. Der bereitgestellte Seitentext bezeichnet…

BotPsy bringt einen 0.8B-Agenten für lokale KI-Workflows auf Geräte
Modelle11. November 2026, 06:01

BotPsy bringt einen 0.8B-Agenten für lokale KI-Workflows auf Geräte

Tether AI Research hat BotPsy vorgestellt, ein Sprachmodell mit 0.8B Parametern für Funktionsaufrufe und agentische Workflows auf Geräten. Das auf Qwen3.5-0.8B…

Wirtschaft
Wirtschaft10. November 2026, 18:58

OSI eröffnet globale Debatte über die Zukunft von Open-Source-KI

Die Open Source Initiative hat eine Reihe von Open Source AI Salons gestartet. Dabei soll untersucht werden, wie ihre Open Source AI Definition angesichts der…