Inferact · seit January 22, 2026 (Inferact public launch, $150M seed) · 2× · zuletzt 18. Okt. 2026
31
Momentum
vLLM ist eine Open-Source-Inferenz- und Serving-Engine für große Sprachmodelle, ursprünglich an der UC Berkeley entwickelt und heute vom PyTorch Foundation verwaltet. Die Firma Inferact (gegründet von den vLLM-Maintainern) bietet mit der Inferact-Plattform eine kommerzielle Produktionsschicht auf Basis von vLLM an. Die Engine unterstützt NVIDIA-, AMD-, Intel-, Apple-Silicon-, CPU- und TPU-Hardware sowie einen OpenAI-kompatiblen Server.
Momentum-Verlauf
20.07.18.10.
Features
| Lizenz | Apache 2.0 (vLLM-Projekt, PyTorch Foundation) |
| Plattform | NVIDIA CUDA, AMD ROCm, Intel XPU, Apple Silicon, CPU (x86, ARM), IBM Z; Google TPU |
| Protokoll-Kompatibilität | OpenAI-kompatibler HTTP-Server (/v1/chat/completions, /v1/completions, /v1/models) |
| Release-Datum | 22. Januar 2026 (öffentlicher Start von Inferact) |
| Unterstützte Modelle/Provider | Über 300 Modellarchitekturen laut Inferact-Pressemitteilung (Oktober 2026); 500+ laut Inferact-Blog (Jan 2026) |