#sparse-attention Repositorios
Descubre 18 repositorios activos de código abierto de GitHub etiquetados con #sparse-attention, que acumulan 62,491 estrellas en total (una media de 3,471 estrellas por proyecto). El líder de este tema es deepseek-ai/FlashMLA, con 13,275 estrellas.
18 repositorios en total
Este proyecto tiene como objetivo reproducir Sora (modelo T2V de OpenAI), deseamos que la comunidad de código abierto contribuya a este proyecto.
Proponemos Prism, un marco de atención dispersa dinámica para entrenar de forma nativa modelos de generación conjunta de video y audio a 2K.
[ICML2025] SpargeAttention: Una atención dispersa sin entrenamiento que acelera la inferencia de cualquier modelo.
[NeurIPS'24 Spotlight, ICLR'25, ICML'25] Para acelerar la inferencia de LLM de contexto largo, el cálculo disperso aproximado y dinámico de la atención reduce la latencia de inferencia hasta 10 veces para el prellenado en un A100, manteniendo la precisión.
🐳 Implementaciones eficientes de Triton para "Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention"
[MLSys'25] QServe: Cuantificación W4A8KV4 y codesign de sistemas para un servicio de LLM eficiente; [MLSys'25] LServe: Servicio eficiente de LLM para secuencias largas con atención dispersa unificada
Implementación del patrón de atención dispersa propuesto por el equipo de Deepseek en su artículo "Native Sparse Attention"
[ICML2025, NeurIPS2025 Spotlight] Sparse VideoGen 1 & 2: Aceleración de Video Diffusion Transformers con Atención Dispersa
[NeurIPS 2025] Radial Attention: O(nlogn) Sparse Attention with Energy Decay for Long Video Generation
SLA: Más allá de la dispersión en los transformadores de difusión mediante atención dispersa-lineal ajustable
Preguntas frecuentes
¿Cuál es el repositorio de #sparse-attention más popular en GitHub?
El proyecto de código abierto de #sparse-attention mejor posicionado en GitHub es deepseek-ai/FlashMLA, con 13,275 estrellas. FlashMLA: Kernels de atención latente multi-cabeza eficientes
¿Qué lenguajes de programación se utilizan más en los repositorios de #sparse-attention?
Entre los proyectos de #sparse-attention mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, C++, Jupyter Notebook, Cuda.
¿Cómo se calcula la clasificación de los repositorios de #sparse-attention?
Seguimos 18 repositorios activos de código abierto etiquetados con #sparse-attention (500+ estrellas), que suman un total de 62,491 estrellas, con una media de 3,471 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.