Runtimes LLM locaux — Synthszr Charts

Cette catégorie regroupe des logiciels permettant d'exécuter des modèles de langage sur du matériel local, sans connexion au cloud. On y trouve des runtimes comme ollama et llama.cpp, ainsi que des interfaces comme LM Studio, Open WebUI ou AnythingLLM qui facilitent le téléchargement, la gestion et l'utilisation des modèles. Ces outils servent à préserver la confidentialité, fonctionner hors ligne, maîtriser les coûts ou expérimenter avec des variantes de modèles personnalisées.

Les Synthszr Charts mesurent le momentum de ces produits à partir des mentions relevées dans des milliers de sources d'actualité et de newsletters. Le calcul est pondéré par récence, accordant plus de poids aux mentions récentes qu'aux plus anciennes, et granulaire par version, chaque sortie étant suivie séparément. Le classement est mis à jour quotidiennement.