LiteLLM
#11 in LLM-APIs & Gatewayslitellm · seit 2023-08-25 · 18× · zuletzt 03. Juli 2026
48
Momentum
LiteLLM ist ein quelloffenes Python-SDK und Proxy-Server (AI Gateway) von BerriAI, das eine einheitliche OpenAI-kompatible Schnittstelle für den Aufruf von über 100 LLM-Providern bereitstellt. Es unterstützt unter anderem OpenAI, Anthropic, Google Vertex AI, AWS Bedrock, Azure, Cohere, HuggingFace, NVIDIA NIM und viele weitere. Der Kern ist MIT-lizenziert und kostenlos selbst zu hosten; eine kostenpflichtige Enterprise-Edition mit SSO, RBAC, Audit-Logs und SLA-Support ist ebenfalls verfügbar. Die Plattform umfasst Features wie Load Balancing, Spend Tracking, Guardrails, virtuelle API-Keys und ein Admin-Dashboard.
Momentum-Verlauf
04.04.03.07.
Features
| Deployment (Self-host/Cloud) | Primär Self-hosted (Docker-Container, Terraform auf AWS/GCP, Kubernetes); auch als Managed-Service über Drittanbieter (z. B. Elestio); kein offizielles LiteLLM-eigenes SaaS-Angebot für den Proxy |
| Lizenz | MIT License (Open Source, kommerziell nutzbar, kein Licensing-Fee für den Kern) |
| Release-Datum | 2023-08-25 (erstes SourceForge/PyPI-Listing; aktuelle Version 1.89.2 vom 18. Juni 2026) |