#sparse-attention Repository
Scopri 18 repository GitHub open source attivi contrassegnati con #sparse-attention, che raccolgono un totale di 62,491 stelle (con una media di 3,471 stelle per progetto). Il progetto leader di questo argomento è deepseek-ai/FlashMLA, con 13,275 stelle.
18 repository in totale
Questo progetto mira a riprodurre Sora (modello T2V di OpenAI), augurandoci che la comunità open source contribuisca a questo progetto.
Proponiamo Prism, un framework di attenzione sparsa dinamica per addestrare nativamente modelli di generazione congiunta di video e audio in 2K.
[ICML2025] SpargeAttention: Un'attenzione sparsa senza addestramento che accelera l'inferenza di qualsiasi modello.
[NeurIPS'24 Spotlight, ICLR'25, ICML'25] Per accelerare l'inferenza dei LLM a lungo contesto, il calcolo approssimato e dinamico sparso dell'attenzione riduce la latenza di inferenza fino a 10 volte per il pre-fill su un A100, mantenendo l'accuratezza.
🐳 Implementazioni Triton efficienti per "Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention"
[MLSys'25] QServe: Quantizzazione W4A8KV4 e co-progettazione del sistema per un serving efficiente di LLM; [MLSys'25] LServe: Serving efficiente di LLM per sequenze lunghe con attenzione sparsa unificata
Implementazione del pattern di attenzione sparsa proposto dal team Deepseek nel loro paper "Native Sparse Attention"
Attenzione sparsa addestrabile, veloce ed efficiente dal punto di vista della memoria
[ICML2025, NeurIPS2025 Spotlight] Sparse VideoGen 1 & 2: Accelerazione dei Video Diffusion Transformer con Sparse Attention
[NeurIPS 2025] Radial Attention: O(nlogn) Sparse Attention with Energy Decay for Long Video Generation
SLA: Oltre la sparsità nei trasformatori di diffusione tramite attenzione sparsa-lineare regolabile
Domande frequenti
Qual è il repository #sparse-attention più popolare su GitHub?
Il progetto open source #sparse-attention più alto in classifica su GitHub è deepseek-ai/FlashMLA, con 13,275 stelle. FlashMLA: Kernel di Attenzione Latente Multi-Testa Efficienti
Quali linguaggi di programmazione sono più utilizzati nei repository #sparse-attention?
Tra i progetti #sparse-attention più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, C++, Jupyter Notebook, Cuda.
Come viene calcolata la classifica dei repository #sparse-attention?
Monitoriamo 18 repository open source attivi contrassegnati con #sparse-attention (500+ stelle), per un totale di 62,491 stelle e una media di 3,471 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.