Git Stars Git Stars

#attention Dépôts

Découvrez 29 dépôts GitHub open source actifs associés à #attention, cumulant 203,649 étoiles au total (soit une moyenne de 7,022 étoiles par projet). Le projet en tête de ce thème est labmlai/annotated_deep_learning_paper_implementations, avec 67,780 étoiles.

29
Total des Dépôts
203,649
Nombre total d'étoiles
7,022
Moyenne d'Étoiles/Dépôt
1
labmlai/annotated_deep_learning_paper_implementations

🧑‍🏫 60+ implémentations/tutoriels d'articles de deep learning avec des notes côte à côte 📝; y compris les transformers (original, xl, switch, feedback, vit, ...), les optimiseurs (adam, adabelief, sophia, ...), les gans (cyclegan, stylegan2, ...), 🎮 l'apprentissage par renforcement (ppo, dqn), les capsnet, la distillation, ... 🧠

labmlai
⭐ 67,780 Python 👤 labmlai Organization 🕐 Mis à jour 2026-11-02 📅 Créé 2020-08-25
2
sgl-project/sglang

SGLang est un framework de service haute performance pour les grands modèles linguistiques et les modèles multimodaux.

sgl-project
⭐ 38,899 Python 👤 sgl-project Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2024-01-08
3
kyegomez/OpenMythos

Une reconstruction théorique de l'architecture du Mythe de Claude, construite à partir de premiers principes en utilisant la littérature de recherche disponible.

kyegomez
⭐ 14,932 Python 👤 kyegomez User 🕐 Mis à jour 2026-05-23 📅 Créé 2026-04-18
4
graykode/nlp-tutorial

Tutoriel sur le Traitement du Langage Naturel pour les Chercheurs en Apprentissage Profond

graykode
⭐ 14,826 Jupyter Notebook 👤 graykode User 🕐 Mis à jour 2024-02-21 📅 Créé 2019-01-09
5
xmu-xiaoma666/External-Attention-pytorch

🍀 Implémentation Pytorch de divers mécanismes d'attention, MLP, re-paramétrage, convolution, qui sont utiles pour mieux comprendre les articles.⭐⭐⭐

xmu-xiaoma666
⭐ 12,182 Python 👤 xmu-xiaoma666 User 🕐 Mis à jour 2026-03-16 📅 Créé 2021-05-08
6
jadore801120/attention-is-all-you-need-pytorch

Une implémentation PyTorch du modèle Transformer dans « Attention is All You Need ».

jadore801120
⭐ 9,576 Python 👤 jadore801120 User 🕐 Mis à jour 2024-04-16 📅 Créé 2017-06-14
7
flashinfer-ai/flashinfer

FlashInfer: Bibliothèque de Noyaux pour le Service LLM

flashinfer-ai
⭐ 6,982 Cuda 👤 flashinfer-ai Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2023-07-22
8
bentrevett/pytorch-seq2seq

Tutoriels sur l'implémentation de quelques modèles sequence-to-sequence (seq2seq) avec PyTorch et TorchText.

bentrevett
⭐ 5,664 Jupyter Notebook 👤 bentrevett User 🕐 Mis à jour 2024-01-20 📅 Créé 2018-07-17
9
hyunwoongko/transformer

Transformer : Implémentation PyTorch de « Attention Is All You Need »

hyunwoongko
⭐ 4,609 Python 👤 hyunwoongko User 🕐 Mis à jour 2025-07-15 📅 Créé 2019-10-15
10
km1994/nlp_paper_study

Ce dépôt contient principalement des notes de lecture d’articles de conférences de premier plan liés à l’ingénierie des algorithmes de TAL.

km1994
⭐ 4,035 C++ 👤 km1994 User 🕐 Mis à jour 2026-10-11 📅 Créé 2019-05-18
11
thu-ml/SageAttention

[ICLR2025, ICML2025, NeurIPS2025 Spotlight] L'attention quantifiée (Quantized Attention) atteint une accélération de 2 à 5 fois par rapport à FlashAttention, sans perte de métriques de bout en bout sur les modèles de langage, d'image et de vidéo.

thu-ml
⭐ 4,017 Cuda 👤 thu-ml Organization 🕐 Mis à jour 2026-01-17 📅 Créé 2024-10-03
12
google-research/scenic

Scenic : Une bibliothèque Jax pour la recherche en vision par ordinateur et au-delà

google-research
⭐ 3,848 Python 👤 google-research Organization 🕐 Mis à jour 2026-10-31 📅 Créé 2021-07-12
13
kyegomez/awesome-multi-agent-papers

Une compilation des meilleurs articles multi-agents

kyegomez
⭐ 1,720 TeX 👤 kyegomez User 🕐 Mis à jour 2026-11-20 📅 Créé 2024-02-21
14
argusswift/YOLOv4-pytorch

Ceci est un dépôt Pytorch de YOLOv4, attentive YOLOv4 et mobilenet YOLOv4 avec PASCAL VOC et COCO

argusswift
⭐ 1,673 Python 👤 argusswift User 🕐 Mis à jour 2024-05-03 📅 Créé 2020-07-19
15
lucidrains/transfusion-pytorch

Implémentation Pytorch de Transfusion, "Prédire le prochain token et diffuser des images avec un seul modèle multimodal" par MetaAI

lucidrains
⭐ 1,412 Python 👤 lucidrains User 🕐 Mis à jour 2026-09-04 📅 Créé 2024-08-23
16
thu-ml/SpargeAttn

[ICML2025] SpargeAttention : Une attention éparse sans entraînement qui accélère l'inférence de n'importe quel modèle.

thu-ml
⭐ 1,269 Cuda 👤 thu-ml Organization 🕐 Mis à jour 2026-02-25 📅 Créé 2025-02-25
17
pprp/SimpleCVReproduction

Réplication de projets CV simples incluant attention, classification, détection, détection de points clés, etc.

pprp
⭐ 1,261 Jupyter Notebook 👤 pprp User 🕐 Mis à jour 2025-08-14 📅 Créé 2019-12-11
18
jmaczan/tiny-vllm

Construisez votre propre moteur d'inférence LLM haute performance en C++ et CUDA - une version plus petite de vLLM

jmaczan
⭐ 1,207 C++ 👤 jmaczan User 🕐 Mis à jour 2026-11-15 📅 Créé 2026-02-09
19
NVIDIA/cudnn-frontend

cuDNN Frontend est le point d'entrée moderne et open source de NVIDIA vers la bibliothèque cuDNN et une collection croissante de noyaux open source hautes performances.

NVIDIA
⭐ 1,008 Cuda 👤 NVIDIA Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2021-01-22
20
ai4co/rl4co

Une bibliothèque PyTorch pour tout ce qui concerne l'apprentissage par renforcement (RL) pour l'optimisation combinatoire (CO)

ai4co
⭐ 924 Python 👤 ai4co Organization 🕐 Mis à jour 2026-09-14 📅 Créé 2023-02-23
21
lucidrains/native-sparse-attention-pytorch

Implémentation du schéma d'attention éparse proposé par l'équipe Deepseek dans leur article "Native Sparse Attention"

lucidrains
⭐ 811 Python 👤 lucidrains User 🕐 Mis à jour 2025-08-15 📅 Créé 2025-02-19
22
hellonlp/classifier-multi-label

Classification de texte multi-étiquettes, classification multi-étiquettes, classification de texte, multi-étiquettes, classifieur, classification de texte, BERT, seq2seq, attention, classification multi-étiquettes

hellonlp
⭐ 800 Python 👤 hellonlp User 🕐 Mis à jour 2024-12-11 📅 Créé 2020-07-13
23
kyegomez/LongNet

Implémentation de l'attention plug-and-play de "LongNet : Scalabilité des transformeurs à 1 milliard de tokens"

kyegomez
⭐ 715 Python 👤 kyegomez User 🕐 Mis à jour 2024-01-07 📅 Créé 2023-07-06
24
eeyhsong/EEG-Conformer

EEG Transformer 2.0. i. Transformeur Convolutif pour le décodage de l'EEG. ii. Nouvelle visualisation - Topographie d'activation de classe.

eeyhsong
⭐ 674 Python 👤 eeyhsong User 🕐 Mis à jour 2024-07-24 📅 Créé 2022-07-26
25
therealoliver/Deepdive-llama3-from-scratch

Réalisez l'étape d'inférence de llama3 étape par étape, saisissez les concepts clés, maîtrisez la dérivation du processus, implémentez le code.

therealoliver
⭐ 629 Jupyter Notebook 👤 therealoliver User 🕐 Mis à jour 2025-02-24 📅 Créé 2025-02-19
26
leondgarse/keras_cv_attention_models

Keras beit,caformer,CMT,CoAtNet,convnext,davit,dino,efficientdet,edgenext,efficientformer,efficientnet,eva,fasternet,fastervit,fastvit,flexivit,gcvit,ghostnet,gpvit,hornet,hiera,iformer,inceptionnext,lcnet,levit,maxvit,mobilevit,moganet,nat,nfnets,pvt,swin,tinynet,tinyvit,uniformer,volo,vanillanet,yolor,yolov7,yolov8,yolox,gpt2,llama2, alias kecam

leondgarse
⭐ 624 Python 👤 leondgarse User 🕐 Mis à jour 2026-02-15 📅 Créé 2021-08-02
27
chengchingwen/Transformers.jl

Implémentation en Julia des modèles Transformer

chengchingwen
⭐ 574 Julia 👤 chengchingwen User 🕐 Mis à jour 2026-10-24 📅 Créé 2018-12-27
28
WenjieDu/SAITS

L'implémentation officielle PyTorch du papier "SAITS: Imputation basée sur l'auto-attention pour les séries temporelles". Un modèle de réseau de neurones en apprentissage profond rapide et de l'état de l'art (SOTA) pour l'imputation efficace des séries temporelles (imputer des séries temporelles multivariées incomplètes contenant des données/valeurs manquantes NaN avec l'apprentissage automatique). https://arxiv.org/abs/2202.08516

WenjieDu
⭐ 521 Python 👤 WenjieDu User 🕐 Mis à jour 2026-08-25 📅 Créé 2021-12-07
29
MuLabPKU/TransArch

Concevez des architectures de modèles adaptées au matériel et migrez les LLM existants avec une perte de performances minimale

MuLabPKU
⭐ 520 Python 👤 MuLabPKU Organization 🕐 Mis à jour 2026-11-11 📅 Créé 2025-01-02

Foire aux questions

1

Quel est le dépôt #attention le plus populaire sur GitHub ?

Le projet #attention open source le mieux classé sur GitHub est labmlai/annotated_deep_learning_paper_implementations, avec 67,780 étoiles. 🧑‍🏫 60+ implémentations/tutoriels d'articles de deep learning avec des notes côte à côte 📝; y compris les transformers (original, xl, switch, feedback, vit, ...), les optimiseurs (adam, adabelief, sophia, ...), les gans (cyclegan, stylegan2, ...), 🎮 l'apprentissage par renforcement (ppo, dqn), les capsnet, la distillation, ... 🧠

2

Quels langages de programmation sont les plus utilisés dans les dépôts #attention ?

Parmi les projets #attention les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, Jupyter Notebook, Cuda, C++.

3

Comment le classement des dépôts #attention est-il calculé ?

Nous suivons 29 dépôts open source actifs associés à #attention (500+ étoiles), totalisant 203,649 étoiles, avec une moyenne de 7,022 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.