#llm-inference Dépôts
202
Total des Dépôts
1.0M
Nombre total d'étoiles
5,180
Moyenne d'Étoiles/Dépôt
202 dépôts au total
201
Chen-zexi/vllm-cli
Un outil d'interface en ligne de commande pour servir des LLM en utilisant vLLM.
202
vectorch-ai/ScaleLLM
Un système d'inférence haute performance pour les grands modèles de langage, conçu pour les environnements de production.