Git Stars Git Stars

#attention Repositories

Entdecke 29 aktive Open-Source-GitHub-Repositories, die mit #attention getaggt sind und insgesamt 203,649 Sterne gesammelt haben (durchschnittlich 7,022 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist labmlai/annotated_deep_learning_paper_implementations mit 67,780 Sternen.

29
Gesamtzahl der Repositories
203,649
Gesamtanzahl der Sterne
7,022
Durchschnittliche Sterne/Repo

Insgesamt 29 Repositories

1
labmlai/annotated_deep_learning_paper_implementations

🧑‍🏫 60+ Implementierungen/Tutorials von Deep-Learning-Papieren mit begleitenden Notizen 📝; einschließlich Transformatoren (Original, xl, switch, feedback, vit, ...), Optimierern (adam, adabelief, sophia, ...), gans (cyclegan, stylegan2, ...), 🎮 Reinforcement Learning (ppo, dqn), capsnet, Destillation, ... 🧠

labmlai
⭐ 67,780 Python 👤 labmlai Organization 🕐 Aktualisiert 2026-11-02 📅 Erstellt 2020-08-25
2
sgl-project/sglang

SGLang ist ein Hochleistungs-Serving-Framework für große Sprachmodelle und multimodale Modelle.

sgl-project
⭐ 38,899 Python 👤 sgl-project Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2024-01-08
3
kyegomez/OpenMythos

Eine theoretische Rekonstruktion der Claude-Mythos-Architektur, aufgebaut aus ersten Prinzipien unter Verwendung der verfügbaren Forschungs-literatur.

kyegomez
⭐ 14,932 Python 👤 kyegomez User 🕐 Aktualisiert 2026-05-23 📅 Erstellt 2026-04-18
4
graykode/nlp-tutorial

Tutorial zur Natürlichen Sprachverarbeitung für Deep-Learning-Forscher

graykode
⭐ 14,826 Jupyter Notebook 👤 graykode User 🕐 Aktualisiert 2024-02-21 📅 Erstellt 2019-01-09
5
xmu-xiaoma666/External-Attention-pytorch

🍀 Pytorch-Implementierung verschiedener Aufmerksamkeitsmechanismen, MLPs, Reparameterisierung, Faltung, die zum weiteren Verständnis von Arbeiten hilfreich sind.⭐⭐⭐

xmu-xiaoma666
⭐ 12,182 Python 👤 xmu-xiaoma666 User 🕐 Aktualisiert 2026-03-16 📅 Erstellt 2021-05-08
6
jadore801120/attention-is-all-you-need-pytorch

Eine PyTorch-Implementierung des Transformer-Modells aus „Attention is All You Need“.

jadore801120
⭐ 9,576 Python 👤 jadore801120 User 🕐 Aktualisiert 2024-04-16 📅 Erstellt 2017-06-14
7
flashinfer-ai/flashinfer

FlashInfer: Kernel-Bibliothek für LLM-Serving

flashinfer-ai
⭐ 6,982 Cuda 👤 flashinfer-ai Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2023-07-22
8
bentrevett/pytorch-seq2seq

Tutorials zur Implementierung einiger Sequence-to-Sequence (Seq2Seq) Modelle mit PyTorch und TorchText.

bentrevett
⭐ 5,664 Jupyter Notebook 👤 bentrevett User 🕐 Aktualisiert 2024-01-20 📅 Erstellt 2018-07-17
9
hyunwoongko/transformer

Transformer: PyTorch-Implementierung von „Attention Is All You Need“

hyunwoongko
⭐ 4,609 Python 👤 hyunwoongko User 🕐 Aktualisiert 2025-07-15 📅 Erstellt 2019-10-15
10
km1994/nlp_paper_study

Dieses Repository enthält hauptsächlich Notizen zur Lektüre von Beiträgen führender Konferenzen im Bereich der NLP-Algorithmusentwicklung.

km1994
⭐ 4,035 C++ 👤 km1994 User 🕐 Aktualisiert 2026-10-11 📅 Erstellt 2019-05-18
11
thu-ml/SageAttention

[ICLR2025, ICML2025, NeurIPS2025 Spotlight] Quantized Attention erzielt eine Beschleunigung um das 2- bis 5-fache im Vergleich zu FlashAttention, ohne die End-to-End-Metriken bei Sprach-, Bild- und Videomodellen zu verschlechtern.

thu-ml
⭐ 4,017 Cuda 👤 thu-ml Organization 🕐 Aktualisiert 2026-01-17 📅 Erstellt 2024-10-03
12
google-research/scenic

Scenic: Eine Jax-Bibliothek für Computer Vision Forschung und darüber hinaus

google-research
⭐ 3,848 Python 👤 google-research Organization 🕐 Aktualisiert 2026-10-31 📅 Erstellt 2021-07-12
13
kyegomez/awesome-multi-agent-papers

Eine Zusammenstellung der besten Multi-Agenten-Arbeiten

kyegomez
⭐ 1,720 TeX 👤 kyegomez User 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2024-02-21
14
argusswift/YOLOv4-pytorch

Dies ist ein Pytorch-Repository von YOLOv4, attentive YOLOv4 und mobilenet YOLOv4 mit PASCAL VOC und COCO

argusswift
⭐ 1,673 Python 👤 argusswift User 🕐 Aktualisiert 2024-05-03 📅 Erstellt 2020-07-19
15
lucidrains/transfusion-pytorch

Pytorch-Implementierung von Transfusion, „Vorhersage des nächsten Tokens und Diffusion von Bildern mit einem multimodalen Modell“ von MetaAI

lucidrains
⭐ 1,412 Python 👤 lucidrains User 🕐 Aktualisiert 2026-09-04 📅 Erstellt 2024-08-23
16
thu-ml/SpargeAttn

[ICML2025] SpargeAttention: Ein trainingsfreier spärlicher Aufmerksamkeitsmechanismus, der die Inferenz jedes Modells beschleunigt.

thu-ml
⭐ 1,269 Cuda 👤 thu-ml Organization 🕐 Aktualisiert 2026-02-25 📅 Erstellt 2025-02-25
17
pprp/SimpleCVReproduction

Replikation einfacher CV-Projekte einschließlich Attention, Klassifikation, Detektion, Keypoint-Detektion usw.

pprp
⭐ 1,261 Jupyter Notebook 👤 pprp User 🕐 Aktualisiert 2025-08-14 📅 Erstellt 2019-12-11
18
jmaczan/tiny-vllm

Baue deine eigene Hochleistungs-LLM-Inferenz-Engine in C++ und CUDA - eine kleinere Version von vLLM

jmaczan
⭐ 1,207 C++ 👤 jmaczan User 🕐 Aktualisiert 2026-11-15 📅 Erstellt 2026-02-09
19
NVIDIA/cudnn-frontend

cuDNN Frontend ist NVIDIAs moderner Open-Source-Einstiegspunkt zur cuDNN-Bibliothek und eine wachsende Sammlung von leistungsstarken Open-Source-Kernels.

NVIDIA
⭐ 1,008 Cuda 👤 NVIDIA Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2021-01-22
20
ai4co/rl4co

Eine PyTorch-Bibliothek für alles rund um Reinforcement Learning (RL) für kombinatorische Optimierung (CO)

ai4co
⭐ 924 Python 👤 ai4co Organization 🕐 Aktualisiert 2026-09-14 📅 Erstellt 2023-02-23
21
lucidrains/native-sparse-attention-pytorch

Implementierung des von Deepseek in ihrem Paper „Native Sparse Attention“ vorgeschlagenen Sparse Attention Musters

lucidrains
⭐ 811 Python 👤 lucidrains User 🕐 Aktualisiert 2025-08-15 📅 Erstellt 2025-02-19
22
hellonlp/classifier-multi-label

Multi-Label-Textklassifizierung, Multi-Label-Klassifizierung, Textklassifizierung, Multi-Label, Klassifikator, Textklassifizierung, BERT, Seq2Seq, Attention, Multi-Label-Klassifizierung

hellonlp
⭐ 800 Python 👤 hellonlp User 🕐 Aktualisiert 2024-12-11 📅 Erstellt 2020-07-13
23
kyegomez/LongNet

Implementierung von Plug-in-and-Play-Attention aus "LongNet: Skalierung von Transformatoren auf 1.000.000.000 Token"

kyegomez
⭐ 715 Python 👤 kyegomez User 🕐 Aktualisiert 2024-01-07 📅 Erstellt 2023-07-06
24
eeyhsong/EEG-Conformer

EEG Transformer 2.0. i. Konvolutioneller Transformer für die EEG-Dekodierung. ii. Neue Visualisierung - Klassenaktivierungstopographie.

eeyhsong
⭐ 674 Python 👤 eeyhsong User 🕐 Aktualisiert 2024-07-24 📅 Erstellt 2022-07-26
25
therealoliver/Deepdive-llama3-from-scratch

Erreichen Sie den Llama3-Inferenzschritt für Schritt, erfassen Sie die Kernkonzepte, meistern Sie die Prozessableitung, implementieren Sie den Code.

therealoliver
⭐ 629 Jupyter Notebook 👤 therealoliver User 🕐 Aktualisiert 2025-02-24 📅 Erstellt 2025-02-19
26
leondgarse/keras_cv_attention_models

Keras beit,caformer,CMT,CoAtNet,convnext,davit,dino,efficientdet,edgenext,efficientformer,efficientnet,eva,fasternet,fastervit,fastvit,flexivit,gcvit,ghostnet,gpvit,hornet,hiera,iformer,inceptionnext,lcnet,levit,maxvit,mobilevit,moganet,nat,nfnets,pvt,swin,tinynet,tinyvit,uniformer,volo,vanillanet,yolor,yolov7,yolov8,yolox,gpt2,llama2, alias kecam

leondgarse
⭐ 624 Python 👤 leondgarse User 🕐 Aktualisiert 2026-02-15 📅 Erstellt 2021-08-02
27
chengchingwen/Transformers.jl

Julia-Implementierung von Transformer-Modellen

chengchingwen
⭐ 574 Julia 👤 chengchingwen User 🕐 Aktualisiert 2026-10-24 📅 Erstellt 2018-12-27
28
WenjieDu/SAITS

Die offizielle PyTorch-Implementierung des Papers "SAITS: Self-Attention-basierte Imputation für Zeitreihen". Ein schnelles und State-of-the-Art (SOTA) Deep-Learning-Neuronal-Netzwerk-Modell für effiziente Zeitreihen-Imputation (Imputation multivariater unvollständiger Zeitreihen mit NaN fehlenden Daten/Werten mittels Machine Learning). https://arxiv.org/abs/2202.08516

WenjieDu
⭐ 521 Python 👤 WenjieDu User 🕐 Aktualisiert 2026-08-25 📅 Erstellt 2021-12-07
29
MuLabPKU/TransArch

Entwerfen Sie hardwarefreundliche Modellarchitekturen und migrieren Sie bestehende LLMs mit minimalem Leistungsverlust

MuLabPKU
⭐ 520 Python 👤 MuLabPKU Organization 🕐 Aktualisiert 2026-11-11 📅 Erstellt 2025-01-02

Häufig gestellte Fragen

1

Welches ist das beliebteste #attention-Repository auf GitHub?

Das am höchsten eingestufte Open-Source-#attention-Projekt auf GitHub ist labmlai/annotated_deep_learning_paper_implementations mit 67,780 Sternen. 🧑‍🏫 60+ Implementierungen/Tutorials von Deep-Learning-Papieren mit begleitenden Notizen 📝; einschließlich Transformatoren (Original, xl, switch, feedback, vit, ...), Optimierern (adam, adabelief, sophia, ...), gans (cyclegan, stylegan2, ...), 🎮 Reinforcement Learning (ppo, dqn), capsnet, Destillation, ... 🧠

2

Welche Programmiersprachen werden in #attention-Repositories am häufigsten verwendet?

Unter den am höchsten eingestuften #attention-Projekten auf GitHub sind Python, Jupyter Notebook, Cuda, C++ die am häufigsten verwendeten Programmiersprachen.

3

Wie wird das Ranking der #attention-Repositories berechnet?

Wir verfolgen 29 aktive Open-Source-Repositories, die mit #attention getaggt sind (500+ Sterne), mit insgesamt 203,649 Sternen und durchschnittlich 7,022 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.