Git Stars Git Stars

#llm-inference-serving Repository

Scopri 1 repository GitHub open source attivi contrassegnati con #llm-inference-serving, che raccolgono un totale di 742 stelle (con una media di 742 stelle per progetto). Il progetto leader di questo argomento è EricLBuehler/candle-vllm, con 742 stelle.

1
Totale Repository
742
Totale stelle
742
Media Stelle/Repo
Linguaggi di programmazione: Rust

1 repository in totale

1
EricLBuehler/candle-vllm

Piattaforma efficiente per l'inferenza e il servizio di LLM locali, incluso un server API compatibile con OpenAI.

EricLBuehler
⭐ 742 Rust 👤 EricLBuehler User 🕐 Aggiornato 2026-10-18 📅 Creato 2023-10-29

Domande frequenti

1

Qual è il repository #llm-inference-serving più popolare su GitHub?

Il progetto open source #llm-inference-serving più alto in classifica su GitHub è EricLBuehler/candle-vllm, con 742 stelle. Piattaforma efficiente per l'inferenza e il servizio di LLM locali, incluso un server API compatibile con OpenAI.

2

Quali linguaggi di programmazione sono più utilizzati nei repository #llm-inference-serving?

Tra i progetti #llm-inference-serving più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Rust.

3

Come viene calcolata la classifica dei repository #llm-inference-serving?

Monitoriamo 1 repository open source attivi contrassegnati con #llm-inference-serving (500+ stelle), per un totale di 742 stelle e una media di 742 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.