Git Stars Git Stars

#llm-inference-serving Repositórios

Descubra 1 repositórios ativos de código aberto no GitHub marcados com #llm-inference-serving, acumulando um total de 742 estrelas (uma média de 742 por projeto). O líder deste tópico é EricLBuehler/candle-vllm, com 742 estrelas.

1
Total de Repositórios
742
Total de estrelas
742
Média de Estrelas/Repositório
Linguagens de programação: Rust

1 repositórios no total

1
EricLBuehler/candle-vllm

Plataforma eficiente para inferência e serviço de LLMs locais, incluindo um servidor de API compatível com OpenAI.

EricLBuehler
⭐ 742 Rust 👤 EricLBuehler User 🕐 Atualizado 2026-10-18 📅 Criado 2023-10-29

Perguntas Frequentes

1

Qual é o repositório de #llm-inference-serving mais popular no GitHub?

O projeto de código aberto de #llm-inference-serving mais bem classificado no GitHub é EricLBuehler/candle-vllm, com 742 estrelas. Plataforma eficiente para inferência e serviço de LLMs locais, incluindo um servidor de API compatível com OpenAI.

2

Quais linguagens de programação são mais usadas nos repositórios de #llm-inference-serving?

Entre os projetos de #llm-inference-serving mais bem classificados no GitHub, as linguagens de programação mais comuns são Rust.

3

Como é calculada a classificação dos repositórios de #llm-inference-serving?

Acompanhamos 1 repositórios ativos de código aberto marcados com #llm-inference-serving (com mais de 500 estrelas), totalizando 742 estrelas e uma média de 742 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.