Git Stars Git Stars

#sparse-attention Репозитории

Откройте для себя 18 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #sparse-attention, с общим числом 62,491 звёзд (в среднем 3,471 на проект). Лидером этой темы является deepseek-ai/FlashMLA, набравший 13,275 звёзд.

18
Всего репозиториев
62,491
Всего звезд
3,471
Среднее количество звезд на репозиторий
Языки программирования: Python C++ Jupyter Notebook Cuda

Всего репозиториев: 18

1
deepseek-ai/FlashMLA

FlashMLA: Эффективные многоголовые латентные ядра внимания

deepseek-ai
⭐ 13,275 C++ 👤 deepseek-ai Organization 🕐 Обновлено 2026-10-27 📅 Создано 2025-02-21
2
PKU-YuanGroup/Open-Sora-Plan

Этот проект направлен на воспроизведение Sora (модели T2V от OpenAI), мы хотим, чтобы сообщество open source внесло свой вклад в этот проект.

PKU-YuanGroup
⭐ 12,201 Python 👤 PKU-YuanGroup Organization 🕐 Обновлено 2026-11-18 📅 Создано 2024-02-20
3
OpenBMB/MiniCPM

MiniCPM5: передовые LLM на устройстве — маленькие, но мощные.

OpenBMB
⭐ 11,898 Jupyter Notebook 👤 OpenBMB Organization 🕐 Обновлено 2026-11-09 📅 Создано 2024-01-29
7
Tencent-Hunyuan/Prism

Мы предлагаем Prism — динамический фреймворк разреженного внимания для нативного обучения моделей совместной генерации видео и аудио в разрешении 2K.

Tencent-Hunyuan
⭐ 1,518 Python 👤 Tencent-Hunyuan Organization 🕐 Обновлено 2026-10-31 📅 Создано 2026-09-21
8
thu-ml/SpargeAttn

[ICML2025] SpargeAttention: Обучаемая разреженная модель внимания, ускоряющая вывод любых моделей.

thu-ml
⭐ 1,269 Cuda 👤 thu-ml Organization 🕐 Обновлено 2026-02-25 📅 Создано 2025-02-25
9
microsoft/MInference

[NeurIPS'24 Spotlight, ICLR'25, ICML'25] Чтобы ускорить вывод Long-context LLMs, аппроксимированныйи и динамический разреженный расчет внимания снижает задержку вывода до 10 раз при предварительном заполнении на A100, сохраняя точность.

microsoft
⭐ 1,230 Python 👤 microsoft Organization 🕐 Обновлено 2026-11-18 📅 Создано 2024-05-22
10
Tencent/hpc-ops

Библиотека высокопроизводительных операторов вывода LLM

Tencent
⭐ 1,193 C++ 👤 Tencent Organization 🕐 Обновлено 2026-11-19 📅 Создано 2026-01-20
11
fla-org/native-sparse-attention

🐳 Эффективные реализации Triton для "Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention"

fla-org
⭐ 1,030 Python 👤 fla-org Organization 🕐 Обновлено 2026-02-05 📅 Создано 2025-02-21
12
mit-han-lab/omniserve

[MLSys'25] QServe: W4A8KV4 Квантование и совместное проектирование системы для эффективной подачи LLM; [MLSys'25] LServe: Эффективная подача LLM для длинных последовательностей с унифицированным разреженным вниманием

mit-han-lab
⭐ 840 C++ 👤 mit-han-lab Organization 🕐 Обновлено 2025-03-06 📅 Создано 2024-05-06
13
SHI-Labs/NATTEN

Быстрое многомерное разреженное внимание

SHI-Labs
⭐ 815 C++ 👤 SHI-Labs Organization 🕐 Обновлено 2026-07-26 📅 Создано 2022-10-08
14
lucidrains/native-sparse-attention-pytorch

Реализация шаблона разреженного внимания, предложенного командой Deepseek в их статье «Native Sparse Attention»

lucidrains
⭐ 811 Python 👤 lucidrains User 🕐 Обновлено 2025-08-15 📅 Создано 2025-02-19
15
HKUSTDial/flash-sparse-attention

Обучаемое, быстрое и энергоэффективное разреженное внимание

HKUSTDial
⭐ 750 Python 👤 HKUSTDial Organization 🕐 Обновлено 2026-11-20 📅 Создано 2025-05-12
16
svg-project/Sparse-VideoGen

[ICML2025, NeurIPS2025 Spotlight] Sparse VideoGen 1 & 2: Ускорение Video Diffusion Transformers с помощью разреженного внимания

svg-project
⭐ 712 Python 👤 svg-project User 🕐 Обновлено 2026-07-04 📅 Создано 2025-03-09
17
mit-han-lab/radial-attention

[NeurIPS 2025] Radial Attention: O(nlogn) Sparse Attention with Energy Decay for Long Video Generation

mit-han-lab
⭐ 609 Python 👤 mit-han-lab Organization 🕐 Обновлено 2025-11-11 📅 Создано 2025-06-19
18
thu-ml/SLA

SLA: За пределами разреженности в диффузионных трансформерах с помощью тонко настраиваемого разреженно-линейного внимания

thu-ml
⭐ 553 Python 👤 thu-ml Organization 🕐 Обновлено 2026-10-18 📅 Создано 2025-09-25

Часто задаваемые вопросы

1

Какой репозиторий по теме #sparse-attention наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #sparse-attention на GitHub — deepseek-ai/FlashMLA, набравший 13,275 звёзд. FlashMLA: Эффективные многоголовые латентные ядра внимания

2

Какие языки программирования чаще всего используются в репозиториях по теме #sparse-attention?

Среди наиболее высоко оценённых проектов по теме #sparse-attention на GitHub чаще всего используются языки программирования Python, C++, Jupyter Notebook, Cuda.

3

Как рассчитывается рейтинг репозиториев по теме #sparse-attention?

Мы отслеживаем 18 активных репозиториев с открытым исходным кодом, отмеченных тегом #sparse-attention (500 и более звёзд), с общим числом 62,491 звёзд и в среднем 3,471 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.