#llm-inference-serving Repositorios
Descubre 1 repositorios activos de código abierto de GitHub etiquetados con #llm-inference-serving, que acumulan 742 estrellas en total (una media de 742 estrellas por proyecto). El líder de este tema es EricLBuehler/candle-vllm, con 742 estrellas.
1 repositorios en total
Plataforma eficiente para inferencia y servicio de LLM locales, incluido un servidor API compatible con OpenAI.
Preguntas frecuentes
¿Cuál es el repositorio de #llm-inference-serving más popular en GitHub?
El proyecto de código abierto de #llm-inference-serving mejor posicionado en GitHub es EricLBuehler/candle-vllm, con 742 estrellas. Plataforma eficiente para inferencia y servicio de LLM locales, incluido un servidor API compatible con OpenAI.
¿Qué lenguajes de programación se utilizan más en los repositorios de #llm-inference-serving?
Entre los proyectos de #llm-inference-serving mejor posicionados en GitHub, los lenguajes de programación más comunes son Rust.
¿Cómo se calcula la clasificación de los repositorios de #llm-inference-serving?
Seguimos 1 repositorios activos de código abierto etiquetados con #llm-inference-serving (500+ estrellas), que suman un total de 742 estrellas, con una media de 742 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.