Synthszr Charts — die großen AI-Marken im Wettkampf ums Podium
synthszr charts
huawei

Huawei · seit November 2026 (Paper arXiv:2611.10649 am 7. November 2026; GitHub-Veröffentlichung um den 10. November 2026) · 2× · zuletzt 13. Nov. 2026

45
Momentum

MACaQ (Model Agnostic Calibrated Quantization) ist ein Open-Source-Quantisierungswerkzeug der Huawei Computing Systems Lab (huawei-csl) für LLMs, MoE-Modelle sowie Diffusionsmodelle für Bild, Video und Audio. Es quantisiert lineare Schichten einzeln auf 4-Bit (MXFP4 W4A4) bzw. erzeugt 2–4-Bit-GGUF-Dateien. Die Methode ist als Apache-2.0-Lizenz auf GitHub verfügbar und integriert sich mit llama.cpp, vLLM, Diffusers und PyTorch.

Momentum-Verlauf
18.08.16.11.

Features

Durchsatz/LatenzNur 2,3 % End-to-End-Overhead gegenüber reinem MXFP4 (Qwen3-32B, vLLM)
LizenzApache License 2.0
PlattformPython/PyTorch; GPU (CUDA), Ascend CANN-Kernel in Arbeit
PreisKostenlos, Open Source (Apache 2.0)
Protokoll-Kompatibilitätllama.cpp (GGUF), vLLM (W4A4/Weight-only), Diffusers, PyTorch
Release-DatumNovember 2026 (Paper: 7. Nov. 2026)
Unterstützte Modelle/ProviderQwen3 (4B, 27B, 30B, 35B, 80B), OLMoE-1B-7B, FLUX.2-klein-4B, Wan2.2-TI2V, Stable Audio 1.0

Weitere Produkte in dieser Kategorie: LLM-Inferenz & Serving

Belege (2)

Subscribe free. Unsubscribe the second it sucks.

High-signal news across AI, business, UX, and tech. Every morning.