Synthszr Charts — die großen AI-Marken im Wettkampf ums Podium
synthszr charts

Inférence & serving LLM — Synthszr Charts

Cette catégorie regroupe les frameworks et moteurs utilisés pour exécuter de grands modèles de langage en production – des serveurs d'inférence aux couches de batching et d'ordonnancement, en passant par les optimisations de latence et de débit. On y trouve des projets comme vLLM, SGLang et TGI, utilisés pour servir des modèles derrière des API ou dans des centres de données auto-hébergés. Ils sont utilisés par des équipes qui doivent faire tourner des modèles à grande échelle et à coût maîtrisé, et non plus seulement les entraîner.

Les Synthszr Charts mesurent pour cette catégorie le momentum à partir des mentions dans des milliers de sources d'actualités et de newsletters, pondéré par la récence et granulaire par version, de sorte que les nouvelles versions comme EAGLE 3.1 sont suivies individuellement. Le classement est mis à jour chaque jour et montre quelles solutions de serving gagnent ou perdent en visibilité.

Historique du momentum
DeepInfervLLMClef-flashSGLangMACaQWorkers AIDeepInferModal
18.08.16.11.
Sort:MomentumCompany
  1. 1
    deepseek
    DeepInfer
    deepseek · 27× · 01 nov. 2026
    100
  2. 2
    vllm
    vLLM
    vllm · 90× · 28 oct. 2026
    73
  3. 3
    cloudflare
    Clef-flash
    cloudflare · 17× · 13 oct. 2026
    58
  4. 4
    lmsys
    SGLang
    lmsys · 22× · 15 nov. 2026
    46
  5. 5
    huawei
    MACaQ
    huawei · 2× · 13 nov. 2026
    45
  6. 6
    cloudflare
    Workers AI
    cloudflare · 6× · 06 nov. 2026
    44
  7. 7
    DeepInfer
    unknown · 3× · 23 oct. 2026
    28
  8. 8
    modal
    Modal
    modal · 3× · 23 oct. 2026
    19
  9. 9
    mangoboost
    Mango Inference
    mangoboost · 2× · 19 oct. 2026
    18
  10. 10
    cloudflare
    Computer
    cloudflare · 4× · 27 oct. 2026
    15
  11. 11
    prior-labs
    TabPFN-3.5
    prior-labs · 5× · 30 sept. 2026
    13
  12. 12
    inception
    Mercury 2.5
    inception · 2× · 21 oct. 2026
    12
  13. 13
    nvidia
    NeMo-DCR
    nvidia · 2× · 09 oct. 2026
    12
  14. 14
    openai
    Ultrafast mode
    openai · 2× · 06 oct. 2026
    10
  15. 15
    vllm
    vLLM-Omni
    vllm · 4× · 09 oct. 2026
    8
  16. 16
    anthropic
    Jev
    anthropic · 2× · 06 oct. 2026
    8
  17. 17
    subquadratic
    SubQ
    subquadratic · 22× · 22 sept. 2026
    8
  18. 18
    crusoe
    Crusoe Managed Inference
    crusoe · 4× · 21 sept. 2026
    5
  19. 19
    nvidia
    TensorRT-LLM
    nvidia · 6× · 22 sept. 2026
    5
  20. 20
    superlinked
    SIE (Superlinked Inference Engine)
    superlinked · 2× · 10 sept. 2026
    2
  21. 21
    fastvideo
    FastH3
    fastvideo · 2× · 03 sept. 2026
    2
  22. 22
    nvidia
    Lightning
    nvidia · 4× · 13 août 2026
    2
  23. 23
    modular
    Mojo
    modular · 2× · 24 août 2026
    1
  24. 24
    openai
    Triton
    openai · 2× · 26 août 2026
    1
  25. 25
    google
    TabFM
    google · 9× · 27 juil. 2026
    1
  26. 26
    moonshot
    Mooncake
    moonshot · 2× · 19 juil. 2026
    0
  27. 27
    nvidia
    ModelOpt
    nvidia · 2× · 15 juil. 2026
    0
  28. 28
    bentoml
    Yansu
    bentoml · 3× · 01 juin 2026
    0
  29. 29
    hugging-face
    TGI
    hugging-face · 2× · 19 juin 2026
    0
  30. 30
    coreweave
    CoreWeave Sandboxes
    coreweave · 3× · 24 mai 2026
    0
  31. 31
    hugging-face
    Text Generation Inference
    hugging-face · 2× · 28 mai 2026
    0
  32. 32
    groq
    Groq Llama
    groq · 2× · 17 mai 2026
    0
  33. 33
    vllm
    vLLM 0.20.0
    vllm · 4× · 29 avr. 2026
    0
  34. 34
    lightseeking
    TokenSpeed
    lightseeking · 2× · 12 mai 2026
    0
  35. 35
    docker
    Docker Model Runner
    docker · 2× · 08 mai 2026
    0
  36. 36
    hybridai
    HybridClaw
    hybridai · 2× · 29 avr. 2026
    0
  37. 37
    near-ai
    NEAR AI Cloud
    near-ai · 7× · 03 avr. 2026
    0
  38. 38
    near-ai
    IronClaw
    near-ai · 7× · 03 avr. 2026
    0
  39. 39
    tencent
    ClawPro
    tencent · 2× · 04 mai 2026
    0
  40. 40
    HDNA Workbench
    unknown · 2× · 15 avr. 2026
    0

Subscribe free. Unsubscribe the second it sucks.

High-signal news across AI, business, UX, and tech. Every morning.