Git Stars Git Stars

#sparse-attention Repositories

Entdecke 18 aktive Open-Source-GitHub-Repositories, die mit #sparse-attention getaggt sind und insgesamt 62,491 Sterne gesammelt haben (durchschnittlich 3,471 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist deepseek-ai/FlashMLA mit 13,275 Sternen.

18
Gesamtzahl der Repositories
62,491
Gesamtanzahl der Sterne
3,471
Durchschnittliche Sterne/Repo

Insgesamt 18 Repositories

1
deepseek-ai/FlashMLA

FlashMLA: Effiziente Multi-Head Latent Attention Kernels

deepseek-ai
⭐ 13,275 C++ 👤 deepseek-ai Organization 🕐 Aktualisiert 2026-10-27 📅 Erstellt 2025-02-21
2
PKU-YuanGroup/Open-Sora-Plan

Dieses Projekt zielt darauf ab, Sora (Open AI T2V Modell) zu reproduzieren. Wir hoffen, dass die Open-Source-Community zu diesem Projekt beitragen wird.

PKU-YuanGroup
⭐ 12,201 Python 👤 PKU-YuanGroup Organization 🕐 Aktualisiert 2026-11-18 📅 Erstellt 2024-02-20
3
OpenBMB/MiniCPM

MiniCPM5: SOTA On-Device-LLMs, klein aber leistungsstark.

OpenBMB
⭐ 11,898 Jupyter Notebook 👤 OpenBMB Organization 🕐 Aktualisiert 2026-11-09 📅 Erstellt 2024-01-29
7
Tencent-Hunyuan/Prism

Wir stellen Prism vor, ein dynamisches Sparse-Attention-Framework für das native Training gemeinsamer Video- und Audio-Generierungsmodelle in 2K.

Tencent-Hunyuan
⭐ 1,518 Python 👤 Tencent-Hunyuan Organization 🕐 Aktualisiert 2026-10-31 📅 Erstellt 2026-09-21
8
thu-ml/SpargeAttn

[ICML2025] SpargeAttention: Ein trainingsfreier spärlicher Aufmerksamkeitsmechanismus, der die Inferenz jedes Modells beschleunigt.

thu-ml
⭐ 1,269 Cuda 👤 thu-ml Organization 🕐 Aktualisiert 2026-02-25 📅 Erstellt 2025-02-25
9
microsoft/MInference

[NeurIPS'24 Spotlight, ICLR'25, ICML'25] Um die Inferenz von Long-Context-LLMs zu beschleunigen, berechnen approximative und dynamische dichte Berechnungen die Aufmerksamkeit, was die Inferenzlatenz beim Vorabfüllen auf einer A100 um bis zu 10x reduziert, während die Genauigkeit erhalten bleibt.

microsoft
⭐ 1,230 Python 👤 microsoft Organization 🕐 Aktualisiert 2026-11-18 📅 Erstellt 2024-05-22
10
Tencent/hpc-ops

Bibliothek für hochleistungsfähige LLM-Inferenzoperatoren

Tencent
⭐ 1,193 C++ 👤 Tencent Organization 🕐 Aktualisiert 2026-11-19 📅 Erstellt 2026-01-20
11
fla-org/native-sparse-attention

🐳 Effiziente Triton-Implementierungen für "Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention"

fla-org
⭐ 1,030 Python 👤 fla-org Organization 🕐 Aktualisiert 2026-02-05 📅 Erstellt 2025-02-21
12
mit-han-lab/omniserve

[MLSys'25] QServe: W4A8KV4 Quantisierung und System-Co-Design für effizientes LLM-Serving; [MLSys'25] LServe: Effizientes LLM-Serving für lange Sequenzen mit vereinheitlichter spärlicher Aufmerksamkeit

mit-han-lab
⭐ 840 C++ 👤 mit-han-lab Organization 🕐 Aktualisiert 2025-03-06 📅 Erstellt 2024-05-06
13
SHI-Labs/NATTEN

Schnelle mehrdimensionale spärliche Aufmerksamkeit

SHI-Labs
⭐ 815 C++ 👤 SHI-Labs Organization 🕐 Aktualisiert 2026-07-26 📅 Erstellt 2022-10-08
14
lucidrains/native-sparse-attention-pytorch

Implementierung des von Deepseek in ihrem Paper „Native Sparse Attention“ vorgeschlagenen Sparse Attention Musters

lucidrains
⭐ 811 Python 👤 lucidrains User 🕐 Aktualisiert 2025-08-15 📅 Erstellt 2025-02-19
15
HKUSTDial/flash-sparse-attention

Trainierbare, schnelle und speichereffiziente spärliche Aufmerksamkeit

HKUSTDial
⭐ 750 Python 👤 HKUSTDial Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2025-05-12
16
svg-project/Sparse-VideoGen

[ICML2025, NeurIPS2025 Spotlight] Sparse VideoGen 1 & 2: Beschleunigung von Video Diffusion Transformers mit Sparse Attention

svg-project
⭐ 712 Python 👤 svg-project User 🕐 Aktualisiert 2026-07-04 📅 Erstellt 2025-03-09
17
mit-han-lab/radial-attention

[NeurIPS 2025] Radial Attention: O(nlogn) Sparse Attention with Energy Decay for Long Video Generation

mit-han-lab
⭐ 609 Python 👤 mit-han-lab Organization 🕐 Aktualisiert 2025-11-11 📅 Erstellt 2025-06-19
18
thu-ml/SLA

SLA: Über die Sparsität in Diffusion-Transformern hinaus durch feinabstimmbare sparsame lineare Aufmerksamkeit

thu-ml
⭐ 553 Python 👤 thu-ml Organization 🕐 Aktualisiert 2026-10-18 📅 Erstellt 2025-09-25

Häufig gestellte Fragen

1

Welches ist das beliebteste #sparse-attention-Repository auf GitHub?

Das am höchsten eingestufte Open-Source-#sparse-attention-Projekt auf GitHub ist deepseek-ai/FlashMLA mit 13,275 Sternen. FlashMLA: Effiziente Multi-Head Latent Attention Kernels

2

Welche Programmiersprachen werden in #sparse-attention-Repositories am häufigsten verwendet?

Unter den am höchsten eingestuften #sparse-attention-Projekten auf GitHub sind Python, C++, Jupyter Notebook, Cuda die am häufigsten verwendeten Programmiersprachen.

3

Wie wird das Ranking der #sparse-attention-Repositories berechnet?

Wir verfolgen 18 aktive Open-Source-Repositories, die mit #sparse-attention getaggt sind (500+ Sterne), mit insgesamt 62,491 Sternen und durchschnittlich 3,471 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.