Synthszr Charts — die großen AI-Marken im Wettkampf ums Podium
synthszr charts

LLM-Inferenz & Serving — Synthszr Charts

Disse Kategorie ümfaat Frameworks un Engines, mit de grote Spraakmodelle in Produktion loopt warrt – vun Inferenz-Servers över Batching- un Scheduling-Lagen bit hen to Optimeren vun Latenz un Dörsatz. Dorto höört Projekte as vLLM, SGLang un TGI, de bruukt warrt, üm Modelle achter APIs oder in egen Datenzentren praatstellt to kriegen. Bruukt warrt se vun Teams, de Modelle skaleerbor un kostengünstig bedrieven mööt, nich blots trainen.

De Synthszr Charts meet för disse Kategorie dat Momentum ut Nennen in Dusende vun News- un Newsletter-Bronnen, recency-wicht un na Version fien opdeelt, so dat t.B. nee Releases as EAGLE 3.1 eenzeln erfaat warrt. Dat Ranking warrt jeden Dag nee maakt un wiest so, welk Serving-Lösungen jüst mehr oder weniger Andacht kriegt.

Momentum-Verloop
DeepInfervLLMClef-flashSGLangMACaQWorkers AIDeepInferModal
18.08.16.11.
Sort:MomentumCompany
  1. 1
    deepseek
    DeepInfer
    deepseek · 27× · 01. Nov. 2026
    100
  2. 2
    vllm
    vLLM
    vllm · 90× · 28. Okt. 2026
    73
  3. 3
    cloudflare
    Clef-flash
    cloudflare · 17× · 13. Okt. 2026
    58
  4. 4
    lmsys
    SGLang
    lmsys · 22× · 15. Nov. 2026
    46
  5. 5
    huawei
    MACaQ
    huawei · 2× · 13. Nov. 2026
    45
  6. 6
    cloudflare
    Workers AI
    cloudflare · 6× · 06. Nov. 2026
    44
  7. 7
    DeepInfer
    unknown · 3× · 23. Okt. 2026
    28
  8. 8
    modal
    Modal
    modal · 3× · 23. Okt. 2026
    19
  9. 9
    mangoboost
    Mango Inference
    mangoboost · 2× · 19. Okt. 2026
    18
  10. 10
    cloudflare
    Computer
    cloudflare · 4× · 27. Okt. 2026
    15
  11. 11
    prior-labs
    TabPFN-3.5
    prior-labs · 5× · 30. Sept. 2026
    13
  12. 12
    inception
    Mercury 2.5
    inception · 2× · 21. Okt. 2026
    12
  13. 13
    nvidia
    NeMo-DCR
    nvidia · 2× · 09. Okt. 2026
    12
  14. 14
    openai
    Ultrafast mode
    openai · 2× · 06. Okt. 2026
    10
  15. 15
    vllm
    vLLM-Omni
    vllm · 4× · 09. Okt. 2026
    8
  16. 16
    anthropic
    Jev
    anthropic · 2× · 06. Okt. 2026
    8
  17. 17
    subquadratic
    SubQ
    subquadratic · 22× · 22. Sept. 2026
    8
  18. 18
    crusoe
    Crusoe Managed Inference
    crusoe · 4× · 21. Sept. 2026
    5
  19. 19
    nvidia
    TensorRT-LLM
    nvidia · 6× · 22. Sept. 2026
    5
  20. 20
    superlinked
    SIE (Superlinked Inference Engine)
    superlinked · 2× · 10. Sept. 2026
    2
  21. 21
    fastvideo
    FastH3
    fastvideo · 2× · 03. Sept. 2026
    2
  22. 22
    nvidia
    Lightning
    nvidia · 4× · 13. Aug. 2026
    2
  23. 23
    modular
    Mojo
    modular · 2× · 24. Aug. 2026
    1
  24. 24
    openai
    Triton
    openai · 2× · 26. Aug. 2026
    1
  25. 25
    google
    TabFM
    google · 9× · 27. Juli 2026
    1
  26. 26
    moonshot
    Mooncake
    moonshot · 2× · 19. Juli 2026
    0
  27. 27
    nvidia
    ModelOpt
    nvidia · 2× · 15. Juli 2026
    0
  28. 28
    bentoml
    Yansu
    bentoml · 3× · 01. Juni 2026
    0
  29. 29
    hugging-face
    TGI
    hugging-face · 2× · 19. Juni 2026
    0
  30. 30
    coreweave
    CoreWeave Sandboxes
    coreweave · 3× · 24. Mai 2026
    0
  31. 31
    hugging-face
    Text Generation Inference
    hugging-face · 2× · 28. Mai 2026
    0
  32. 32
    groq
    Groq Llama
    groq · 2× · 17. Mai 2026
    0
  33. 33
    vllm
    vLLM 0.20.0
    vllm · 4× · 29. Apr. 2026
    0
  34. 34
    lightseeking
    TokenSpeed
    lightseeking · 2× · 12. Mai 2026
    0
  35. 35
    docker
    Docker Model Runner
    docker · 2× · 08. Mai 2026
    0
  36. 36
    hybridai
    HybridClaw
    hybridai · 2× · 29. Apr. 2026
    0
  37. 37
    near-ai
    NEAR AI Cloud
    near-ai · 7× · 03. Apr. 2026
    0
  38. 38
    near-ai
    IronClaw
    near-ai · 7× · 03. Apr. 2026
    0
  39. 39
    tencent
    ClawPro
    tencent · 2× · 04. Mai 2026
    0
  40. 40
    HDNA Workbench
    unknown · 2× · 15. Apr. 2026
    0

Subscribe free. Unsubscribe the second it sucks.

High-signal news across AI, business, UX, and tech. Every morning.