GitHub Models
#8 in LLM-APIs & Gatewaysgithub · seit 2024-08-01 (öffentliche Ankündigung/Beta); Public Preview ab 2024-10-29 · 18× · zuletzt 30. Juni 2026
53
Momentum
GitHub Models ist ein von GitHub (Microsoft) betriebener Cloud-Dienst, der allen GitHub-Nutzern kostenlimitierten API-Zugang zu über 45 KI-Modellen verschiedener Anbieter über eine einheitliche Schnittstelle bietet. Über ein interaktives Playground können Prompts getestet, verglichen und evaluiert werden; Entwickler können die Modelle anschließend per REST-API oder SDK in eigene Anwendungen einbinden. Neben dem kostenlosen Ratenlimit-Tier gibt es bezahlte Nutzung (Pay-as-you-go) sowie BYOK (Bring Your Own Key) für OpenAI und Azure AI. Der Dienst läuft vollständig auf GitHub/Azure-Infrastruktur ohne Self-Hosting.
Momentum-Verlauf
04.04.03.07.
Features
| Deployment (Self-host/Cloud) | Ausschließlich Cloud (GitHub/Azure-Infrastruktur); kein Self-Hosting; Daten werden nicht für Training genutzt |
| Durchsatz/Latenz | Free-Tier: ~10 RPM; High-Tier-Modelle: 50 RPD, Low-Tier: 150 RPD; Token-Limits je nach Modell (z.B. GPT-4.1: max. 1.048.576 Input-Token, 32.768 Output-Token im Paid-Tier); Paid: Azure-Foundry-Produktionslimits |
| Lizenz | Proprietärer Dienst (GitHub/Microsoft); eigene Modelllizenzen je Publisher; Datenschutz: Daten werden nicht für Training verwendet |
| Plattform | Cloud (github.com/marketplace/models, API-Endpunkt: models.github.ai); Playground im Browser, Integration in GitHub Codespaces & VS Code |
| Preis | Kostenlos (rate-limitiert für alle GitHub-Nutzer); Paid: $0,00001 USD pro Token-Unit (Pay-as-you-go); BYOK über eigene OpenAI/Azure-Keys (Abrechnung beim Provider) |
| Protokoll-Kompatibilität | REST API (models.github.ai/inference/chat/completions); Azure AI Inference SDK; OpenAI SDK (kompatibel); GitHub Personal Access Token (models:read) als Auth |
| Release-Datum | 01. August 2024 (Ankündigung/Beta); Public Preview: 29. Oktober 2024 (GitHub Universe) |
| Unterstützte Modelle/Provider | 45+ Modelle (2025); u.a. OpenAI (GPT-4.1, GPT-4o, o3), Anthropic (Claude), Meta (Llama 3.x/4), Microsoft (Phi), DeepSeek, Cohere, AI21 (Jamba), Mistral; BYOK: OpenAI & Azure AI |