#paged-attention Repositorios
Descubre 6 repositorios activos de código abierto de GitHub etiquetados con #paged-attention, que acumulan 9,822 estrellas en total (una media de 1,637 estrellas por proyecto). El líder de este tema es xlite-dev/Awesome-LLM-Inference, con 5,565 estrellas.
6 repositorios en total
📚Una lista seleccionada de increíbles artículos sobre inferencia LLM/VLM con códigos: Flash-Attention, Paged-Attention, WINT8/4, Paralelismo, etc.🎉
Motor de inferencia LLM puro Rust + CUDA — sin PyTorch, compatible con OpenAI, sirve desde Qwen3 hasta Kimi-K2
Plataforma eficiente para inferencia y servicio de LLM locales, incluido un servidor API compatible con OpenAI.
De maestro a mosaicos — un motor de destilación y servicio de LLM desde cero: kernels personalizados de Triton/CUDA, destilación FSDP, procesamiento por lotes continuo con KV paginado, decodificación especulativa, una puerta de enlace en Rust, un oráculo JAX y herramientas de interpretabilidad.
Preguntas frecuentes
¿Cuál es el repositorio de #paged-attention más popular en GitHub?
El proyecto de código abierto de #paged-attention mejor posicionado en GitHub es xlite-dev/Awesome-LLM-Inference, con 5,565 estrellas. 📚Una lista seleccionada de increíbles artículos sobre inferencia LLM/VLM con códigos: Flash-Attention, Paged-Attention, WINT8/4, Paralelismo, etc.🎉
¿Qué lenguajes de programación se utilizan más en los repositorios de #paged-attention?
Entre los proyectos de #paged-attention mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, Rust.
¿Cómo se calcula la clasificación de los repositorios de #paged-attention?
Seguimos 6 repositorios activos de código abierto etiquetados con #paged-attention (500+ estrellas), que suman un total de 9,822 estrellas, con una media de 1,637 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.