#llm-inference Repositorios
202
Total de Repositorios
1.0M
Total de estrellas
5,180
Promedio de Estrellas/Repo
202 repositorios en total
201
Chen-zexi/vllm-cli
Una herramienta de interfaz de línea de comandos para servir LLM usando vLLM.
202
vectorch-ai/ScaleLLM
Un sistema de inferencia de alto rendimiento para modelos de lenguaje grandes, diseñado para entornos de producción.