Git Stars Git Stars

#flash-attention Dépôts

Découvrez 48 dépôts GitHub open source actifs associés à #flash-attention, cumulant 156,291 étoiles au total (soit une moyenne de 3,256 étoiles par projet). Le projet en tête de ce thème est deepseek-ai/DeepSeek-OCR, avec 24,180 étoiles.

48
Total des Dépôts
156,291
Nombre total d'étoiles
3,256
Moyenne d'Étoiles/Dépôt
1
deepseek-ai/DeepSeek-OCR

Contextes de compression optique

deepseek-ai
⭐ 24,180 Python 👤 deepseek-ai Organization 🕐 Mis à jour 2026-01-27 📅 Créé 2025-10-17
2
QwenLM/Qwen

Le dépôt officiel de Qwen (通义千问), le grand modèle de langage pré-entraîné et de chat proposé par Alibaba Cloud.

QwenLM
⭐ 22,063 Python 👤 QwenLM Organization 🕐 Mis à jour 2026-03-05 📅 Créé 2023-08-03
3
xlite-dev/LeetCUDA

Un livre open source contenant des notes d’apprentissage sur le CUDA moderne pour débutants : BF16/FP8/FP4, HGEMM, CuTe, Flash-Attention, etc.

xlite-dev
⭐ 12,208 TeX 👤 xlite-dev Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2022-12-17
5
InternLM/InternLM

Sortie officielle de la série InternLM (InternLM, InternLM2, InternLM2.5, InternLM3).

InternLM
⭐ 7,280 Python 👤 InternLM Organization 🕐 Mis à jour 2025-10-30 📅 Créé 2023-07-06
6
ymcui/Chinese-LLaMA-Alpaca-2

Grandes modèles chinois LLaMA-2 & Alpaca-2 Phase II + modèles à contexte ultra-long de 64K (Chinese LLaMA-2 & Alpaca-2 LLMs with 64K long context models)

ymcui
⭐ 7,098 Python 👤 ymcui User 🕐 Mis à jour 2026-04-19 📅 Créé 2023-07-18
7
karminski/one-small-step

Ceci est un simple projet de tutoriel technique科普, axé principalement sur l'explication de concepts et de principes technologiques intéressants et de pointe. Chaque article vise à être lu en 5 minutes.

karminski
⭐ 7,006 Python 👤 karminski User 🕐 Mis à jour 2026-03-08 📅 Créé 2025-01-16
9
xlite-dev/Awesome-LLM-Inference

📚Une liste organisée d'articles impressionnants sur l'inférence LLM/VLM avec codes : Flash-Attention, Paged-Attention, WINT8/4, Parallélisme, etc.🎉

xlite-dev
⭐ 5,565 Python 👤 xlite-dev Organization 🕐 Mis à jour 2026-10-20 📅 Créé 2023-08-27
10
turboderp-org/exllamav2

Une bibliothèque d'inférence rapide pour exécuter des LLM localement sur des GPU modernes de classe consommateur

turboderp-org
⭐ 4,653 Python 👤 turboderp-org Organization 🕐 Mis à jour 2026-03-04 📅 Créé 2023-08-30
11
QwenLM/Qwen3-ASR

Qwen3-ASR est une série de modèles ASR open source développés par l'équipe Qwen d'Alibaba Cloud, permettant une reconnaissance multilingue stable de discours/musique/chanson, la détection des langues et la prédiction des timestamps.

QwenLM
⭐ 3,933 Python 👤 QwenLM Organization 🕐 Mis à jour 2026-06-26 📅 Créé 2026-01-28
12
HazyResearch/ThunderKittens

Primitives de tuiles pour noyaux rapides

HazyResearch
⭐ 3,805 Cuda 👤 HazyResearch Organization 🕐 Mis à jour 2026-09-12 📅 Créé 2024-03-04
13
guandeh17/Self-Forcing

Codebase officiel pour "Self Forcing: Bridging Training and Inference in Autoregressive Video Diffusion" (NeurIPS 2025 Spotlight)

guandeh17
⭐ 3,511 Python 👤 guandeh17 User 🕐 Mis à jour 2025-09-12 📅 Créé 2025-06-09
14
ikawrakow/ik_llama.cpp

Fork de llama.cpp avec des quants SOTA supplémentaires et des performances améliorées

ikawrakow
⭐ 3,411 C++ 👤 ikawrakow User 🕐 Mis à jour 2026-11-21 📅 Créé 2024-06-27
16
MoonshotAI/MoBA

MoBA: Mixture of Block Attention pour les LLM à long contexte

MoonshotAI
⭐ 2,122 Python 👤 MoonshotAI Organization 🕐 Mis à jour 2025-04-03 📅 Créé 2025-02-17
17
Ucas-HaoranWei/Vary

[ECCV 2024] Implémentation officielle du code de Vary : Scaling Up the Vision Vocabulary of Large Vision Language Models.

Ucas-HaoranWei
⭐ 1,888 Python 👤 Ucas-HaoranWei User 🕐 Mis à jour 2024-12-30 📅 Créé 2023-12-07
19
allenai/Olmo-core

Blocs de construction PyTorch pour l'écosystème OLMo

allenai
⭐ 1,810 Python 👤 allenai Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2024-03-23
20
mjun0812/flash-attention-prebuild-wheels

Fournir des roues de paquets pré-construites flash-attention 2 et 3 sur Linux et Windows en utilisant GitHub Actions

mjun0812
⭐ 1,798 Python 👤 mjun0812 User 🕐 Mis à jour 2026-11-21 📅 Créé 2024-10-26
21
Soul-AILab/SoulX-FlashTalk

SoulX-FlashTalk est le premier modèle 14B à atteindre une latence de démarrage inférieure à une seconde (0,87 s) tout en maintenant un débit en temps réel de 32 FPS sur un nœud 8xH800.

Soul-AILab
⭐ 1,572 Python 👤 Soul-AILab Organization 🕐 Mis à jour 2026-07-30 📅 Créé 2025-12-25
23
X-Square-Robot/wall-x

Construction de robots polyvalents basés sur un modèle fondamental incarné

X-Square-Robot
⭐ 1,337 Python 👤 X-Square-Robot Organization 🕐 Mis à jour 2026-09-18 📅 Créé 2025-09-04
24
weiruihhh/cs336_note_and_hw

Enregistrer mes notes et devoirs pendant les cours de cs336.

weiruihhh
⭐ 1,305 Python 👤 weiruihhh User 🕐 Mis à jour 2026-10-10 📅 Créé 2025-06-01
25
zhuzilin/ring-flash-attention

Implémentation de l'attention en anneau avec flash attention

zhuzilin
⭐ 1,054 Python 👤 zhuzilin User 🕐 Mis à jour 2025-09-10 📅 Créé 2024-02-21
26
tspeterkim/flash-attention-minimal

Flash Attention en ~100 lignes de CUDA (passage avant uniquement)

tspeterkim
⭐ 1,036 Cuda 👤 tspeterkim User 🕐 Mis à jour 2024-12-30 📅 Créé 2024-03-07
27
NVIDIA/cudnn-frontend

cuDNN Frontend est le point d'entrée moderne et open source de NVIDIA vers la bibliothèque cuDNN et une collection croissante de noyaux open source hautes performances.

NVIDIA
⭐ 1,008 Cuda 👤 NVIDIA Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2021-01-22
28
SandAI-org/MagiAttention

Une attention distribuée pour une évolutivité linéaire dans l'entraînement sur des contextes ultra-longs et des données hétérogènes

SandAI-org
⭐ 975 Python 👤 SandAI-org Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2025-04-20
29
Alpha-VLLM/Lumina-Image-2.0

Lumina-Image 2.0: Un framework unifié et efficace pour la génération d'images

Alpha-VLLM
⭐ 904 Python 👤 Alpha-VLLM Organization 🕐 Mis à jour 2026-05-22 📅 Créé 2025-01-25
30
TRI-ML/prismatic-vlms

Une base de code flexible et efficace pour l'entraînement de modèles linguistiques conditionnés visuellement (VLM)

TRI-ML
⭐ 894 Python 👤 TRI-ML Organization 🕐 Mis à jour 2024-07-04 📅 Créé 2024-02-13
31
RUCAIBox/LLMBox

Une bibliothèque complète pour la mise en œuvre des LLM, comprenant un pipeline d'entraînement unifié et une évaluation complète des modèles.

RUCAIBox
⭐ 849 Python 👤 RUCAIBox Organization 🕐 Mis à jour 2025-06-16 📅 Créé 2023-10-25
32
NVlabs/rcm

rCM & Causal-rCM : Algorithmes/infrastructures de pointe et unifiés pour la distillation de diffusion vidéo bidirectionnelle/autorégressive à grande échelle

NVlabs
⭐ 832 Python 👤 NVlabs Organization 🕐 Mis à jour 2026-06-25 📅 Créé 2025-10-09
35
exiawsh/StreamPETR

[ICCV 2023] StreamPETR : Exploration de la modélisation temporelle axée sur l'objet pour une détection d'objets 3D multi-vues efficace

exiawsh
⭐ 754 Python 👤 exiawsh User 🕐 Mis à jour 2024-06-26 📅 Créé 2023-03-21
37
jzhang38/EasyContext

Optimisation de la mémoire et recettes d'entraînement pour extrapoler la longueur du contexte des modèles linguistiques à 1 million de jetons, avec un matériel minimal.

jzhang38
⭐ 751 Python 👤 jzhang38 User 🕐 Mis à jour 2024-09-27 📅 Créé 2024-04-05
38
HKUSTDial/flash-sparse-attention

Attention éparse entraînable, rapide et économe en mémoire

HKUSTDial
⭐ 750 Python 👤 HKUSTDial Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2025-05-12
40
yihao-meng/HoloCine

[CVPR 2026 Mise en Avant] Implémentations Officielles pour l'Article - HoloCine : Génération Holistique de Narratives Vidéo Longues Multi-Shots Cinématographiques

yihao-meng
⭐ 707 Python 👤 yihao-meng User 🕐 Mis à jour 2025-11-26 📅 Créé 2025-10-22
41
penghao-wu/vstar

Implémentation PyTorch de « V* : Guided Visual Search as a Core Mechanism in Multimodal LLMs »

penghao-wu
⭐ 684 Python 👤 penghao-wu User 🕐 Mis à jour 2024-01-07 📅 Créé 2023-12-15
42
louaaron/Score-Entropy-Discrete-Diffusion

[ICML 2024 Best Paper] Modélisation de diffusion discrète en estimant les rapports de la distribution des données (https://arxiv.org/abs/2310.16834)

louaaron
⭐ 681 Python 👤 louaaron User 🕐 Mis à jour 2024-02-29 📅 Créé 2024-02-21
43
Tencent/WeDLM

WeDLM : Le modèle de langage de diffusion le plus rapide avec une attention causale standard et une compatibilité native avec le cache KV, offrant de réelles accélérations par rapport aux bases optimisées par vLLM.

Tencent
⭐ 659 Python 👤 Tencent Organization 🕐 Mis à jour 2026-03-03 📅 Créé 2025-12-24
44
zengxiao-he/tessera

Du professeur aux tuiles — un moteur de distillation et de service LLM construit de zéro : noyaux Triton/CUDA personnalisés, distillation FSDP, traitement par lots continu avec KV paginé, décodage spéculatif, une passerelle Rust, un oracle JAX et des outils d'interprétabilité.

zengxiao-he
⭐ 556 Python 👤 zengxiao-he User 🕐 Mis à jour 2026-10-09 📅 Créé 2026-06-05
46
mit-han-lab/duo-attention

[ICLR 2025] DuoAttention : Inférence LLM efficace à long contexte avec têtes de récupération et de streaming

mit-han-lab
⭐ 541 Python 👤 mit-han-lab Organization 🕐 Mis à jour 2025-02-10 📅 Créé 2024-10-15
47
DachengLi1/LongChat

Répertoire officiel pour LongChat et LongEval

DachengLi1
⭐ 533 Python 👤 DachengLi1 User 🕐 Mis à jour 2024-05-24 📅 Créé 2023-04-21
48
bofenghuang/vigogne

Modèles français de suivi d'instructions et de conversation

bofenghuang
⭐ 506 Jupyter Notebook 👤 bofenghuang User 🕐 Mis à jour 2024-12-05 📅 Créé 2023-03-24

Foire aux questions

1

Quel est le dépôt #flash-attention le plus populaire sur GitHub ?

Le projet #flash-attention open source le mieux classé sur GitHub est deepseek-ai/DeepSeek-OCR, avec 24,180 étoiles. Contextes de compression optique

2

Quels langages de programmation sont les plus utilisés dans les dépôts #flash-attention ?

Parmi les projets #flash-attention les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, Cuda, TeX, C++.

3

Comment le classement des dépôts #flash-attention est-il calculé ?

Nous suivons 48 dépôts open source actifs associés à #flash-attention (500+ étoiles), totalisant 156,291 étoiles, avec une moyenne de 3,256 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.