Git Stars Git Stars

#llm-inference-serving Dépôts

Découvrez 1 dépôts GitHub open source actifs associés à #llm-inference-serving, cumulant 742 étoiles au total (soit une moyenne de 742 étoiles par projet). Le projet en tête de ce thème est EricLBuehler/candle-vllm, avec 742 étoiles.

1
Total des Dépôts
742
Nombre total d'étoiles
742
Moyenne d'Étoiles/Dépôt
Langages de programmation: Rust
1
EricLBuehler/candle-vllm

Plateforme efficace pour l'inférence et le service des LLM locaux, y compris un serveur API compatible avec OpenAI.

EricLBuehler
⭐ 742 Rust 👤 EricLBuehler User 🕐 Mis à jour 2026-10-18 📅 Créé 2023-10-29

Foire aux questions

1

Quel est le dépôt #llm-inference-serving le plus populaire sur GitHub ?

Le projet #llm-inference-serving open source le mieux classé sur GitHub est EricLBuehler/candle-vllm, avec 742 étoiles. Plateforme efficace pour l'inférence et le service des LLM locaux, y compris un serveur API compatible avec OpenAI.

2

Quels langages de programmation sont les plus utilisés dans les dépôts #llm-inference-serving ?

Parmi les projets #llm-inference-serving les mieux classés sur GitHub, les langages de programmation les plus courants sont Rust.

3

Comment le classement des dépôts #llm-inference-serving est-il calculé ?

Nous suivons 1 dépôts open source actifs associés à #llm-inference-serving (500+ étoiles), totalisant 742 étoiles, avec une moyenne de 742 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.