#sparse-attention Репозитории
Откройте для себя 18 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #sparse-attention, с общим числом 62,491 звёзд (в среднем 3,471 на проект). Лидером этой темы является deepseek-ai/FlashMLA, набравший 13,275 звёзд.
Всего репозиториев: 18
Этот проект направлен на воспроизведение Sora (модели T2V от OpenAI), мы хотим, чтобы сообщество open source внесло свой вклад в этот проект.
Мы предлагаем Prism — динамический фреймворк разреженного внимания для нативного обучения моделей совместной генерации видео и аудио в разрешении 2K.
[ICML2025] SpargeAttention: Обучаемая разреженная модель внимания, ускоряющая вывод любых моделей.
[NeurIPS'24 Spotlight, ICLR'25, ICML'25] Чтобы ускорить вывод Long-context LLMs, аппроксимированныйи и динамический разреженный расчет внимания снижает задержку вывода до 10 раз при предварительном заполнении на A100, сохраняя точность.
🐳 Эффективные реализации Triton для "Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention"
[MLSys'25] QServe: W4A8KV4 Квантование и совместное проектирование системы для эффективной подачи LLM; [MLSys'25] LServe: Эффективная подача LLM для длинных последовательностей с унифицированным разреженным вниманием
Реализация шаблона разреженного внимания, предложенного командой Deepseek в их статье «Native Sparse Attention»
[ICML2025, NeurIPS2025 Spotlight] Sparse VideoGen 1 & 2: Ускорение Video Diffusion Transformers с помощью разреженного внимания
[NeurIPS 2025] Radial Attention: O(nlogn) Sparse Attention with Energy Decay for Long Video Generation
SLA: За пределами разреженности в диффузионных трансформерах с помощью тонко настраиваемого разреженно-линейного внимания
Часто задаваемые вопросы
Какой репозиторий по теме #sparse-attention наиболее популярен на GitHub?
Самый высоко оценённый проект с открытым исходным кодом по теме #sparse-attention на GitHub — deepseek-ai/FlashMLA, набравший 13,275 звёзд. FlashMLA: Эффективные многоголовые латентные ядра внимания
Какие языки программирования чаще всего используются в репозиториях по теме #sparse-attention?
Среди наиболее высоко оценённых проектов по теме #sparse-attention на GitHub чаще всего используются языки программирования Python, C++, Jupyter Notebook, Cuda.
Как рассчитывается рейтинг репозиториев по теме #sparse-attention?
Мы отслеживаем 18 активных репозиториев с открытым исходным кодом, отмеченных тегом #sparse-attention (500 и более звёзд), с общим числом 62,491 звёзд и в среднем 3,471 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.