Git Stars Git Stars

#llm-inference Repositórios

202
Total de Repositórios
1.0M
Total de estrelas
5,180
Média de Estrelas/Repositório
Linguagens de programação: Python C++

202 repositórios no total

201
Chen-zexi/vllm-cli

Uma ferramenta de interface de linha de comando para servir LLM usando vLLM.

Chen-zexi
⭐ 507 Python 👤 Chen-zexi User 🕐 Atualizado 2026-01-25 📅 Criado 2025-08-14
202
vectorch-ai/ScaleLLM

Um sistema de inferência de alto desempenho para modelos de linguagem grandes, projetado para ambientes de produção.

vectorch-ai
⭐ 502 C++ 👤 vectorch-ai Organization 🕐 Atualizado 2025-12-19 📅 Criado 2023-07-24