Synthszr Charts — die großen AI-Marken im Wettkampf ums Podium
synthszr charts

LLM-Inferenz & Serving — Synthszr Charts

Diese Kategorie umfasst Frameworks und Engines, mit denen große Sprachmodelle in Produktion ausgeführt werden – von Inferenz-Servern über Batching- und Scheduling-Layer bis zu Optimierungen für Latenz und Durchsatz. Dazu zählen Projekte wie vLLM, SGLang und TGI, die für das Bereitstellen von Modellen hinter APIs oder in eigenen Rechenzentren eingesetzt werden. Genutzt werden sie von Teams, die Modelle skalierbar und kosteneffizient betreiben müssen, statt nur zu trainieren.

Die Synthszr Charts messen für diese Kategorie das Momentum aus Erwähnungen in tausenden News- und Newsletter-Quellen, recency-gewichtet und versions-granular, sodass etwa neue Releases wie EAGLE 3.1 einzeln erfasst werden. Das Ranking wird täglich aktualisiert und bildet so ab, welche Serving-Lösungen gerade an Aufmerksamkeit gewinnen oder verlieren.

Momentum-Verlauf
DeepInfervLLMClef-flashSGLangMACaQWorkers AIDeepInferModal
24.08.22.11.
Sortieren:MomentumUnternehmen
  1. 1
    deepseek
    DeepInfer
    deepseek · 27× · 01. Nov. 2026
    100
  2. 2
    vllm
    vLLM
    vllm · 90× · 28. Okt. 2026
    71
  3. 3
    cloudflare
    Clef-flash
    cloudflare · 17× · 13. Okt. 2026
    55
  4. 4
    lmsys
    SGLang
    lmsys · 22× · 15. Nov. 2026
    43
  5. 5
    huawei
    MACaQ
    huawei · 2× · 13. Nov. 2026
    41
  6. 6
    cloudflare
    Workers AI
    cloudflare · 6× · 06. Nov. 2026
    41
  7. 7
    DeepInfer
    unknown · 3× · 23. Okt. 2026
    25
  8. 8
    modal
    Modal
    modal · 3× · 23. Okt. 2026
    16
  9. 9
    mangoboost
    Mango Inference
    mangoboost · 2× · 19. Okt. 2026
    16
  10. 10
    cloudflare
    Computer
    cloudflare · 4× · 27. Okt. 2026
    13
  11. 11
    prior-labs
    TabPFN-3.5
    prior-labs · 5× · 30. Sept. 2026
    11
  12. 12
    inception
    Mercury 2.5
    inception · 2× · 21. Okt. 2026
    11
  13. 13
    nvidia
    NeMo-DCR
    nvidia · 2× · 09. Okt. 2026
    10
  14. 14
    openai
    Ultrafast mode
    openai · 2× · 06. Okt. 2026
    9
  15. 15
    vllm
    vLLM-Omni
    vllm · 4× · 09. Okt. 2026
    7
  16. 16
    anthropic
    Jev
    anthropic · 2× · 06. Okt. 2026
    7
  17. 17
    subquadratic
    SubQ
    subquadratic · 22× · 22. Sept. 2026
    7
  18. 18
    crusoe
    Crusoe Managed Inference
    crusoe · 4× · 21. Sept. 2026
    4
  19. 19
    nvidia
    TensorRT-LLM
    nvidia · 6× · 22. Sept. 2026
    4
  20. 20
    superlinked
    SIE (Superlinked Inference Engine)
    superlinked · 2× · 10. Sept. 2026
    2
  21. 21
    fastvideo
    FastH3
    fastvideo · 2× · 03. Sept. 2026
    2
  22. 22
    nvidia
    Lightning
    nvidia · 4× · 13. Aug. 2026
    1
  23. 23
    modular
    Mojo
    modular · 2× · 24. Aug. 2026
    1
  24. 24
    openai
    Triton
    openai · 2× · 26. Aug. 2026
    1
  25. 25
    google
    TabFM
    google · 9× · 27. Juli 2026
    1
  26. 26
    moonshot
    Mooncake
    moonshot · 2× · 19. Juli 2026
    0
  27. 27
    nvidia
    ModelOpt
    nvidia · 2× · 15. Juli 2026
    0
  28. 28
    bentoml
    Yansu
    bentoml · 3× · 01. Juni 2026
    0
  29. 29
    hugging-face
    TGI
    hugging-face · 2× · 19. Juni 2026
    0
  30. 30
    coreweave
    CoreWeave Sandboxes
    coreweave · 3× · 24. Mai 2026
    0
  31. 31
    hugging-face
    Text Generation Inference
    hugging-face · 2× · 28. Mai 2026
    0
  32. 32
    groq
    Groq Llama
    groq · 2× · 17. Mai 2026
    0
  33. 33
    vllm
    vLLM 0.20.0
    vllm · 4× · 29. Apr. 2026
    0
  34. 34
    lightseeking
    TokenSpeed
    lightseeking · 2× · 12. Mai 2026
    0
  35. 35
    docker
    Docker Model Runner
    docker · 2× · 08. Mai 2026
    0
  36. 36
    hybridai
    HybridClaw
    hybridai · 2× · 29. Apr. 2026
    0
  37. 37
    near-ai
    NEAR AI Cloud
    near-ai · 7× · 03. Apr. 2026
    0
  38. 38
    near-ai
    IronClaw
    near-ai · 7× · 03. Apr. 2026
    0
  39. 39
    tencent
    ClawPro
    tencent · 2× · 04. Mai 2026
    0
  40. 40
    HDNA Workbench
    unknown · 2× · 15. Apr. 2026
    0

Subscribe free. Unsubscribe the second it sucks.

High-signal news across AI, business, UX, and tech. Every morning.