#pagedattention Repositorios
Descubre 3 repositorios activos de código abierto de GitHub etiquetados con #pagedattention, que acumulan 2,415 estrellas en total (una media de 805 estrellas por proyecto). El líder de este tema es jmaczan/tiny-vllm, con 1,207 estrellas.
3 repositorios en total
Construye tu propio motor de inferencia LLM de alto rendimiento en C++ y CUDA - una versión más pequeña de vLLM
WeDLM: El modelo de lenguaje de difusión más rápido con atención causal estándar y compatibilidad nativa con la caché KV, que ofrece aceleraciones reales sobre las líneas base optimizadas con vLLM.
Preguntas frecuentes
¿Cuál es el repositorio de #pagedattention más popular en GitHub?
El proyecto de código abierto de #pagedattention mejor posicionado en GitHub es jmaczan/tiny-vllm, con 1,207 estrellas. Construye tu propio motor de inferencia LLM de alto rendimiento en C++ y CUDA - una versión más pequeña de vLLM
¿Qué lenguajes de programación se utilizan más en los repositorios de #pagedattention?
Entre los proyectos de #pagedattention mejor posicionados en GitHub, los lenguajes de programación más comunes son C++, Python.
¿Cómo se calcula la clasificación de los repositorios de #pagedattention?
Seguimos 3 repositorios activos de código abierto etiquetados con #pagedattention (500+ estrellas), que suman un total de 2,415 estrellas, con una media de 805 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.