#llm-inference-serving Dépôts
Découvrez 1 dépôts GitHub open source actifs associés à #llm-inference-serving, cumulant 742 étoiles au total (soit une moyenne de 742 étoiles par projet). Le projet en tête de ce thème est EricLBuehler/candle-vllm, avec 742 étoiles.
1 dépôts au total
Plateforme efficace pour l'inférence et le service des LLM locaux, y compris un serveur API compatible avec OpenAI.
Foire aux questions
Quel est le dépôt #llm-inference-serving le plus populaire sur GitHub ?
Le projet #llm-inference-serving open source le mieux classé sur GitHub est EricLBuehler/candle-vllm, avec 742 étoiles. Plateforme efficace pour l'inférence et le service des LLM locaux, y compris un serveur API compatible avec OpenAI.
Quels langages de programmation sont les plus utilisés dans les dépôts #llm-inference-serving ?
Parmi les projets #llm-inference-serving les mieux classés sur GitHub, les langages de programmation les plus courants sont Rust.
Comment le classement des dépôts #llm-inference-serving est-il calculé ?
Nous suivons 1 dépôts open source actifs associés à #llm-inference-serving (500+ étoiles), totalisant 742 étoiles, avec une moyenne de 742 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.