Git Stars Git Stars

#sparse-attention Dépôts

Découvrez 18 dépôts GitHub open source actifs associés à #sparse-attention, cumulant 62,491 étoiles au total (soit une moyenne de 3,471 étoiles par projet). Le projet en tête de ce thème est deepseek-ai/FlashMLA, avec 13,275 étoiles.

18
Total des Dépôts
62,491
Nombre total d'étoiles
3,471
Moyenne d'Étoiles/Dépôt
1
deepseek-ai/FlashMLA

FlashMLA : noyaux d'attention latente multi-têtes efficaces

deepseek-ai
⭐ 13,275 C++ 👤 deepseek-ai Organization 🕐 Mis à jour 2026-10-27 📅 Créé 2025-02-21
2
PKU-YuanGroup/Open-Sora-Plan

Ce projet vise à reproduire Sora (modèle T2V d'OpenAI), nous souhaitons que la communauté open source contribue à ce projet.

PKU-YuanGroup
⭐ 12,201 Python 👤 PKU-YuanGroup Organization 🕐 Mis à jour 2026-11-18 📅 Créé 2024-02-20
3
OpenBMB/MiniCPM

MiniCPM5 : des LLMs de pointe sur l'appareil, petits mais puissants.

OpenBMB
⭐ 11,898 Jupyter Notebook 👤 OpenBMB Organization 🕐 Mis à jour 2026-11-09 📅 Créé 2024-01-29
7
Tencent-Hunyuan/Prism

Nous proposons Prism, un cadre d’attention parcimonieuse dynamique permettant d’entraîner nativement des modèles de génération conjointe vidéo-audio en 2K.

Tencent-Hunyuan
⭐ 1,518 Python 👤 Tencent-Hunyuan Organization 🕐 Mis à jour 2026-10-31 📅 Créé 2026-09-21
8
thu-ml/SpargeAttn

[ICML2025] SpargeAttention : Une attention éparse sans entraînement qui accélère l'inférence de n'importe quel modèle.

thu-ml
⭐ 1,269 Cuda 👤 thu-ml Organization 🕐 Mis à jour 2026-02-25 📅 Créé 2025-02-25
9
microsoft/MInference

[NeurIPS'24 Spotlight, ICLR'25, ICML'25] Pour accélérer l'inférence des LLM à long contexte, des calculs d'attention épars approximatifs et dynamiques réduisent la latence d'inférence jusqu'à 10 fois pour le pré-remplissage sur un A100 tout en maintenant la précision.

microsoft
⭐ 1,230 Python 👤 microsoft Organization 🕐 Mis à jour 2026-11-18 📅 Créé 2024-05-22
10
Tencent/hpc-ops

Bibliothèque d'opérateurs d'inférence LLM haute performance

Tencent
⭐ 1,193 C++ 👤 Tencent Organization 🕐 Mis à jour 2026-11-19 📅 Créé 2026-01-20
11
fla-org/native-sparse-attention

🐳 Implémentations Triton efficaces pour "Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention"

fla-org
⭐ 1,030 Python 👤 fla-org Organization 🕐 Mis à jour 2026-02-05 📅 Créé 2025-02-21
12
mit-han-lab/omniserve

[MLSys'25] QServe : Quantification W4A8KV4 et co-conception de systèmes pour un service LLM efficace ; [MLSys'25] LServe : Service LLM efficace pour les longues séquences avec attention éparse unifiée

mit-han-lab
⭐ 840 C++ 👤 mit-han-lab Organization 🕐 Mis à jour 2025-03-06 📅 Créé 2024-05-06
13
SHI-Labs/NATTEN

Attention éparse multidimensionnelle rapide

SHI-Labs
⭐ 815 C++ 👤 SHI-Labs Organization 🕐 Mis à jour 2026-07-26 📅 Créé 2022-10-08
14
lucidrains/native-sparse-attention-pytorch

Implémentation du schéma d'attention éparse proposé par l'équipe Deepseek dans leur article "Native Sparse Attention"

lucidrains
⭐ 811 Python 👤 lucidrains User 🕐 Mis à jour 2025-08-15 📅 Créé 2025-02-19
15
HKUSTDial/flash-sparse-attention

Attention éparse entraînable, rapide et économe en mémoire

HKUSTDial
⭐ 750 Python 👤 HKUSTDial Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2025-05-12
16
svg-project/Sparse-VideoGen

[ICML2025, NeurIPS2025 Spotlight] Sparse VideoGen 1 & 2 : Accélérer les Transformers de Diffusion Vidéo avec une Attention Éparse

svg-project
⭐ 712 Python 👤 svg-project User 🕐 Mis à jour 2026-07-04 📅 Créé 2025-03-09
17
mit-han-lab/radial-attention

[NeurIPS 2025] Radial Attention: O(nlogn) Sparse Attention with Energy Decay for Long Video Generation

mit-han-lab
⭐ 609 Python 👤 mit-han-lab Organization 🕐 Mis à jour 2025-11-11 📅 Créé 2025-06-19
18
thu-ml/SLA

SLA : Au-delà de la parcimonie dans les transformeurs de diffusion grâce à une attention creuse-linéaire ajustable

thu-ml
⭐ 553 Python 👤 thu-ml Organization 🕐 Mis à jour 2026-10-18 📅 Créé 2025-09-25

Foire aux questions

1

Quel est le dépôt #sparse-attention le plus populaire sur GitHub ?

Le projet #sparse-attention open source le mieux classé sur GitHub est deepseek-ai/FlashMLA, avec 13,275 étoiles. FlashMLA : noyaux d'attention latente multi-têtes efficaces

2

Quels langages de programmation sont les plus utilisés dans les dépôts #sparse-attention ?

Parmi les projets #sparse-attention les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, C++, Jupyter Notebook, Cuda.

3

Comment le classement des dépôts #sparse-attention est-il calculé ?

Nous suivons 18 dépôts open source actifs associés à #sparse-attention (500+ étoiles), totalisant 62,491 étoiles, avec une moyenne de 3,471 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.