

Huawei · seit November 2026 (Paper arXiv:2611.10649 am 7. November 2026; GitHub-Veröffentlichung um den 10. November 2026) · 2× · zuletzt 13. Nov. 2026
45
Momentum
MACaQ (Model Agnostic Calibrated Quantization) ist ein Open-Source-Quantisierungswerkzeug der Huawei Computing Systems Lab (huawei-csl) für LLMs, MoE-Modelle sowie Diffusionsmodelle für Bild, Video und Audio. Es quantisiert lineare Schichten einzeln auf 4-Bit (MXFP4 W4A4) bzw. erzeugt 2–4-Bit-GGUF-Dateien. Die Methode ist als Apache-2.0-Lizenz auf GitHub verfügbar und integriert sich mit llama.cpp, vLLM, Diffusers und PyTorch.
Momentum-Verlauf
18.08.16.11.
Features
| Durchsatz/Latenz | Nur 2,3 % End-to-End-Overhead gegenüber reinem MXFP4 (Qwen3-32B, vLLM) |
| Lizenz | Apache License 2.0 |
| Plattform | Python/PyTorch; GPU (CUDA), Ascend CANN-Kernel in Arbeit |
| Preis | Kostenlos, Open Source (Apache 2.0) |
| Protokoll-Kompatibilität | llama.cpp (GGUF), vLLM (W4A4/Weight-only), Diffusers, PyTorch |
| Release-Datum | November 2026 (Paper: 7. Nov. 2026) |
| Unterstützte Modelle/Provider | Qwen3 (4B, 27B, 30B, 35B, 80B), OLMoE-1B-7B, FLUX.2-klein-4B, Wan2.2-TI2V, Stable Audio 1.0 |