Git Stars Git Stars

#llm-inference Dépôts

202
Total des Dépôts
1.0M
Nombre total d'étoiles
5,180
Moyenne d'Étoiles/Dépôt
Langages de programmation: Python C++
201
Chen-zexi/vllm-cli

Un outil d'interface en ligne de commande pour servir des LLM en utilisant vLLM.

Chen-zexi
⭐ 507 Python 👤 Chen-zexi User 🕐 Mis à jour 2026-01-25 📅 Créé 2025-08-14
202
vectorch-ai/ScaleLLM

Un système d'inférence haute performance pour les grands modèles de langage, conçu pour les environnements de production.

vectorch-ai
⭐ 502 C++ 👤 vectorch-ai Organization 🕐 Mis à jour 2025-12-19 📅 Créé 2023-07-24