

llama.cpp
#3 in Lokale LLM-RuntimesGgml · seit 13. November 2026 (v1.0.0); Projektstart März 2023 · 2× · zuletzt 17. Nov. 2026
39
Momentum
llama.cpp ist eine in C/C++ geschriebene Inferenz-Engine, die große Sprachmodelle (und Vision-Sprachmodelle) lokal auf Consumer-Hardware sowie in der Cloud ausführt, meist im GGUF-Format. Das Projekt basiert auf der ggml-Tensorbibliothek und wird von ggml-org (Hugging Face) entwickelt. Mit v1.0.0 (13. November 2026) gelten für die öffentliche C-API semantische Versionierungsregeln; Breaking Changes erfordern einen Major-Bump.
Momentum-Verlauf
24.08.22.11.
Features
| Lizenz | MIT |
| Plattform | Windows, macOS, Linux; Docker; Homebrew, Nix, MacPorts |
| Preis | Kostenlos; keine Abos, Accounts oder Nutzungsgebühren |
| Protokoll-Kompatibilität | OpenAI-kompatible API (llama-server, /v1); Anthropic-kompatibler Endpoint; Ollama-kompatible Shim |
| Release-Datum | v1.0.0: 13.11.2026 |
| Unterstützte Modelle/Provider | Über 150 Modell-Architekturvarianten (lt. Release-Post); GGUF-Format |