#llm-inference-serving Repository
Scopri 1 repository GitHub open source attivi contrassegnati con #llm-inference-serving, che raccolgono un totale di 742 stelle (con una media di 742 stelle per progetto). Il progetto leader di questo argomento è EricLBuehler/candle-vllm, con 742 stelle.
1 repository in totale
Piattaforma efficiente per l'inferenza e il servizio di LLM locali, incluso un server API compatibile con OpenAI.
Domande frequenti
Qual è il repository #llm-inference-serving più popolare su GitHub?
Il progetto open source #llm-inference-serving più alto in classifica su GitHub è EricLBuehler/candle-vllm, con 742 stelle. Piattaforma efficiente per l'inferenza e il servizio di LLM locali, incluso un server API compatibile con OpenAI.
Quali linguaggi di programmazione sono più utilizzati nei repository #llm-inference-serving?
Tra i progetti #llm-inference-serving più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Rust.
Come viene calcolata la classifica dei repository #llm-inference-serving?
Monitoriamo 1 repository open source attivi contrassegnati con #llm-inference-serving (500+ stelle), per un totale di 742 stelle e una media di 742 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.