Gemma 4 26B MoE
#48 in Open-Source-Sprachmodellegoogle · v4 · 26b moe · seit 2026-04-02 · 2× · zuletzt 30. Juni 2026
9
Momentum
Gemma 4 26B MoE ist ein Mixture-of-Experts-Sprachmodell mit 26 Milliarden Parametern. Laut den Auszügen ist es für High-Throughput-Reasoning positioniert und bildet die mittlere Leistungsstufe zwischen Edge-Modellen (2B/4B) und einem dichten 31B-Modell.
Momentum-Verlauf
04.04.03.07.
Features
| Benchmark-Score (MMLU/ähnlich) | MMLU Pro: 82,6 % | AIME 2026: 88,3 % | GPQA Diamond: 82,3 % | LiveCodeBench v6: 77,1 % | Arena-AI ELO (Text): 1441 |
| Kontextfenster | 256.000 Tokens (262.144 Token Context Window) |
| Modellgröße (Parameter) | 25,2 Mrd. Gesamtparameter (MoE); 3,8 Mrd. aktive Parameter pro Token bei der Inferenz |
| Preis-Tier | Open-Weight / kostenlos (Selbst-Hosting, Apache 2.0); API via OpenRouter: $0,06/1M Input-Token, $0,33/1M Output-Token (kostenloses Tier ebenfalls verfügbar) |
| Speicher-Anforderung | ~15 GB VRAM bei Q4-Quantisierung (Minimum 14 GB Q4 / 28 GB BF16); alle 26B-Gesamtparameter müssen vollständig in den Speicher geladen werden |