Synthszr Charts — die großen AI-Marken im Wettkampf ums Podium
synthszr charts

LLM inference a serving — Synthszr Charts

Tato kategorie zahrnuje frameworky a enginy používané k provozu velkých jazykových modelů v produkci – od inferenčních serverů přes vrstvy pro batching a plánování až po optimalizace latence a propustnosti. Patří sem projekty jako vLLM, SGLang a TGI, které se používají k nasazení modelů za API nebo ve vlastních datacentrech. Využívají je týmy, které potřebují modely provozovat škálovatelně a nákladově efektivně, nejen je trénovat.

Synthszr Charts měří pro tuto kategorii momentum ze zmínek napříč tisíci zdroji zpráv a newsletterů, s váhou podle aktuálnosti a granularitou podle verzí, takže nová vydání jako EAGLE 3.1 jsou sledována samostatně. Žebříček se aktualizuje denně a ukazuje, která serving řešení právě získávají nebo ztrácejí pozornost.

Vývoj momenta
DeepInfervLLMClef-flashSGLangMACaQWorkers AIDeepInferModal
18.08.16.11.
Sort:MomentumCompany
  1. 1
    deepseek
    DeepInfer
    deepseek · 27× · 01. 11. 2026
    100
  2. 2
    vllm
    vLLM
    vllm · 90× · 28. 10. 2026
    73
  3. 3
    cloudflare
    Clef-flash
    cloudflare · 17× · 13. 10. 2026
    58
  4. 4
    lmsys
    SGLang
    lmsys · 22× · 15. 11. 2026
    46
  5. 5
    huawei
    MACaQ
    huawei · 2× · 13. 11. 2026
    45
  6. 6
    cloudflare
    Workers AI
    cloudflare · 6× · 06. 11. 2026
    44
  7. 7
    DeepInfer
    unknown · 3× · 23. 10. 2026
    28
  8. 8
    modal
    Modal
    modal · 3× · 23. 10. 2026
    19
  9. 9
    mangoboost
    Mango Inference
    mangoboost · 2× · 19. 10. 2026
    18
  10. 10
    cloudflare
    Computer
    cloudflare · 4× · 27. 10. 2026
    15
  11. 11
    prior-labs
    TabPFN-3.5
    prior-labs · 5× · 30. 9. 2026
    13
  12. 12
    inception
    Mercury 2.5
    inception · 2× · 21. 10. 2026
    12
  13. 13
    nvidia
    NeMo-DCR
    nvidia · 2× · 09. 10. 2026
    12
  14. 14
    openai
    Ultrafast mode
    openai · 2× · 06. 10. 2026
    10
  15. 15
    vllm
    vLLM-Omni
    vllm · 4× · 09. 10. 2026
    8
  16. 16
    anthropic
    Jev
    anthropic · 2× · 06. 10. 2026
    8
  17. 17
    subquadratic
    SubQ
    subquadratic · 22× · 22. 9. 2026
    8
  18. 18
    crusoe
    Crusoe Managed Inference
    crusoe · 4× · 21. 9. 2026
    5
  19. 19
    nvidia
    TensorRT-LLM
    nvidia · 6× · 22. 9. 2026
    5
  20. 20
    superlinked
    SIE (Superlinked Inference Engine)
    superlinked · 2× · 10. 9. 2026
    2
  21. 21
    fastvideo
    FastH3
    fastvideo · 2× · 03. 9. 2026
    2
  22. 22
    nvidia
    Lightning
    nvidia · 4× · 13. 8. 2026
    2
  23. 23
    modular
    Mojo
    modular · 2× · 24. 8. 2026
    1
  24. 24
    openai
    Triton
    openai · 2× · 26. 8. 2026
    1
  25. 25
    google
    TabFM
    google · 9× · 27. 7. 2026
    1
  26. 26
    moonshot
    Mooncake
    moonshot · 2× · 19. 7. 2026
    0
  27. 27
    nvidia
    ModelOpt
    nvidia · 2× · 15. 7. 2026
    0
  28. 28
    bentoml
    Yansu
    bentoml · 3× · 01. 6. 2026
    0
  29. 29
    hugging-face
    TGI
    hugging-face · 2× · 19. 6. 2026
    0
  30. 30
    coreweave
    CoreWeave Sandboxes
    coreweave · 3× · 24. 5. 2026
    0
  31. 31
    hugging-face
    Text Generation Inference
    hugging-face · 2× · 28. 5. 2026
    0
  32. 32
    groq
    Groq Llama
    groq · 2× · 17. 5. 2026
    0
  33. 33
    vllm
    vLLM 0.20.0
    vllm · 4× · 29. 4. 2026
    0
  34. 34
    lightseeking
    TokenSpeed
    lightseeking · 2× · 12. 5. 2026
    0
  35. 35
    docker
    Docker Model Runner
    docker · 2× · 08. 5. 2026
    0
  36. 36
    hybridai
    HybridClaw
    hybridai · 2× · 29. 4. 2026
    0
  37. 37
    near-ai
    NEAR AI Cloud
    near-ai · 7× · 03. 4. 2026
    0
  38. 38
    near-ai
    IronClaw
    near-ai · 7× · 03. 4. 2026
    0
  39. 39
    tencent
    ClawPro
    tencent · 2× · 04. 5. 2026
    0
  40. 40
    HDNA Workbench
    unknown · 2× · 15. 4. 2026
    0

Subscribe free. Unsubscribe the second it sucks.

High-signal news across AI, business, UX, and tech. Every morning.