Git Stars Git Stars

#llm-inference Repositorios

202
Total de Repositorios
1.0M
Total de estrellas
5,180
Promedio de Estrellas/Repo
Lenguajes de programación: Python C++

202 repositorios en total

201
Chen-zexi/vllm-cli

Una herramienta de interfaz de línea de comandos para servir LLM usando vLLM.

Chen-zexi
⭐ 507 Python 👤 Chen-zexi User 🕐 Actualizado 2026-01-25 📅 Creado 2025-08-14
202
vectorch-ai/ScaleLLM

Un sistema de inferencia de alto rendimiento para modelos de lenguaje grandes, diseñado para entornos de producción.

vectorch-ai
⭐ 502 C++ 👤 vectorch-ai Organization 🕐 Actualizado 2025-12-19 📅 Creado 2023-07-24