Git Stars Git Stars

#attention-mechanism Repository

Scopri 50 repository GitHub open source attivi contrassegnati con #attention-mechanism, che raccolgono un totale di 274,514 stelle (con una media di 5,490 stelle per progetto). Il progetto leader di questo argomento è rasbt/LLMs-from-scratch, con 108,745 stelle.

50
Totale Repository
274,514
Totale stelle
5,490
Media Stelle/Repo
Linguaggi di programmazione: Python Jupyter Notebook Rust Swift

50 repository in totale

1
rasbt/LLMs-from-scratch

Implementa un LLM simile a ChatGPT in PyTorch da zero, passo dopo passo

rasbt
⭐ 108,745 Jupyter Notebook 👤 rasbt User 🕐 Aggiornato 2026-11-20 📅 Creato 2023-07-23
2
lucidrains/vit-pytorch

Implementazione del Vision Transformer, un modo semplice per raggiungere lo stato dell'arte nella classificazione visiva con un solo encoder transformer in Pytorch

lucidrains
⭐ 25,588 Python 👤 lucidrains User 🕐 Aggiornato 2026-11-07 📅 Creato 2020-10-03
3
Dao-AILab/flash-attention

Attenzione esatta veloce ed efficiente in termini di memoria

Dao-AILab
⭐ 25,330 Python 👤 Dao-AILab Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2022-05-19
4
nndl/nndl

《Reti neurali e deep learning》 di Qiu Xipeng, seconda edizione ed edizione divulgativa: e-book, indice dei capitoli, risorse per lo studio e errata corrige.

nndl
⭐ 19,627 👤 nndl Organization 🕐 Aggiornato 2026-09-06 📅 Creato 2016-09-06
5
BlinkDL/RWKV-LM

RWKV (pronunciato RwaKuv) è un RNN con ottime prestazioni LLM, che può anche essere addestrato direttamente come un transformer GPT (parallelizzabile). Siamo a RWKV-7 "Goose". Quindi combina il meglio di RNN e transformer - ottime prestazioni, tempo lineare, spazio costante (nessuna cache kv), addestramento veloce, ctx_len infinito e embedding di frasi gratuito.

BlinkDL
⭐ 14,786 Python 👤 BlinkDL User 🕐 Aggiornato 2026-11-04 📅 Creato 2021-08-08
6
facebookresearch/xformers

Blocchi costitutivi di Transformer modificabili e ottimizzati, che supportano una costruzione componibile.

facebookresearch
⭐ 10,579 Python 👤 facebookresearch Organization 🕐 Aggiornato 2026-11-13 📅 Creato 2021-10-13
7
lucidrains/x-transformers

Un trasformatore full-attention conciso ma completo con una serie di promettenti funzionalità sperimentali da vari articoli

lucidrains
⭐ 5,966 Python 👤 lucidrains User 🕐 Aggiornato 2026-11-18 📅 Creato 2020-10-24
8
lucidrains/DALLE-pytorch

Implementazione / replica di DALL-E, il trasformatore Text to Image di OpenAI, in Pytorch

lucidrains
⭐ 5,632 Python 👤 lucidrains User 🕐 Aggiornato 2024-02-17 📅 Creato 2021-01-05
9
cmhungsteve/Awesome-Transformer-Attention

Un elenco definitivo e completo di articoli su Vision Transformer/Attention, inclusi articoli, codici e siti Web correlati

cmhungsteve
⭐ 4,987 👤 cmhungsteve User 🕐 Aggiornato 2024-07-30 📅 Creato 2021-09-15
10
ruvnet/RuVector

RuVector offre processi decisionali e memoria degli agenti ad alte prestazioni in tempo reale, IA autoapprendente e un database GNN vettoriale sviluppato in Rust.

ruvnet
⭐ 4,713 Rust 👤 ruvnet User 🕐 Aggiornato 2026-11-21 📅 Creato 2025-11-19
11
raiyanyahya/how-to-train-your-gpt

Costruisci un LLM moderno da zero. Ogni riga commentata. Spiegato come se avessimo cinque anni.

raiyanyahya
⭐ 4,183 Jupyter Notebook 👤 raiyanyahya User 🕐 Aggiornato 2026-10-26 📅 Creato 2026-05-03
12
MLNLP-World/LLMs-from-scratch-CN

Traduzione cinese del progetto LLMs-from-scratch

MLNLP-World
⭐ 3,100 Jupyter Notebook 👤 MLNLP-World Organization 🕐 Aggiornato 2026-04-19 📅 Creato 2025-01-20
13
sunsmarterjie/yolov12

[NeurIPS 2025] YOLOv12: Rilevatori di oggetti in tempo reale incentrati sull'attenzione

sunsmarterjie
⭐ 2,967 Python 👤 sunsmarterjie User 🕐 Aggiornato 2026-10-25 📅 Creato 2025-02-06
14
linto-ai/whisper-timestamped

Riconoscimento vocale automatico multilingue con timestamp a livello di parola e confidenza

linto-ai
⭐ 2,860 Python 👤 linto-ai Organization 🕐 Aggiornato 2026-09-28 📅 Creato 2023-01-13
15
philipperemy/keras-attention

Livello di attenzione di Keras (punteggi Luong e Bahdanau).

philipperemy
⭐ 2,809 Python 👤 philipperemy User 🕐 Aggiornato 2026-03-12 📅 Creato 2017-05-23
16
aburkov/theLMbook

Questo è il repository ufficiale di "The Hundred-Page Language Models Book" di Andriy Burkov

aburkov
⭐ 2,194 Jupyter Notebook 👤 aburkov User 🕐 Aggiornato 2026-02-08 📅 Creato 2024-06-28
17
flybirdxx/ComfyUI-Qwen-TTS

Una semplice implementazione della ComfyUI di Qwen3-TTS

flybirdxx
⭐ 1,981 Python 👤 flybirdxx User 🕐 Aggiornato 2026-11-10 📅 Creato 2026-01-22
18
amitshekhariitbhu/llm-internals

Impara i dettagli interni degli LLM passo dopo passo - dalla tokenizzazione all'attenzione all'ottimizzazione dell'inferenza.

amitshekhariitbhu
⭐ 1,774 👤 amitshekhariitbhu User 🕐 Aggiornato 2026-11-20 📅 Creato 2026-04-12
19
lucidrains/soundstorm-pytorch

Implementazione di SoundStorm, generazione audio parallela efficiente di Google Deepmind, in Pytorch

lucidrains
⭐ 1,545 Python 👤 lucidrains User 🕐 Aggiornato 2025-04-24 📅 Creato 2023-05-17
20
yulunzhang/RCAN

Codice PyTorch per il nostro articolo ECCV 2018 "Image Super-Resolution Using Very Deep Residual Channel Attention Networks"

yulunzhang
⭐ 1,497 Python 👤 yulunzhang User 🕐 Aggiornato 2025-04-01 📅 Creato 2018-07-03
22
meta-pytorch/attention-gym

Strumenti utili ed esempi per lavorare con la flex-attention

meta-pytorch
⭐ 1,274 Python 👤 meta-pytorch Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2024-07-31
23
lucidrains/perceiver-pytorch

Implementazione di Perceiver, Percezione Generale con Attenzione Iterativa, in Pytorch

lucidrains
⭐ 1,223 Python 👤 lucidrains User 🕐 Aggiornato 2026-10-26 📅 Creato 2021-03-05
24
awslabs/sockeye

Framework sequence-to-sequence con focus sulla Traduzione Automatica Neurale basato su PyTorch

awslabs
⭐ 1,217 Python 👤 awslabs Organization 🕐 Aggiornato 2024-10-24 📅 Creato 2017-06-08
25
chengtan9907/OpenSTL

OpenSTL: Un benchmark completo per l'apprendimento predittivo spazio-temporale

chengtan9907
⭐ 1,165 Python 👤 chengtan9907 User 🕐 Aggiornato 2026-03-01 📅 Creato 2022-07-27
26
SuperBruceJia/EEG-DL

Una libreria di Deep Learning per la classificazione di attività (segnali) EEG, basata su TensorFlow.

SuperBruceJia
⭐ 1,162 Python 👤 SuperBruceJia User 🕐 Aggiornato 2025-07-20 📅 Creato 2020-04-30
27
cedrickchee/awesome-transformer-nlp

Una lista curata di risorse NLP focalizzata su reti Transformer, meccanismo di attenzione, GPT, BERT, ChatGPT, LLMs e transfer learning.

cedrickchee
⭐ 1,124 👤 cedrickchee User 🕐 Aggiornato 2024-10-27 📅 Creato 2019-01-13
28
lucidrains/tab-transformer-pytorch

Implementazione di TabTransformer, una rete di attenzione per dati tabulari, in Pytorch

lucidrains
⭐ 1,097 Python 👤 lucidrains User 🕐 Aggiornato 2026-01-08 📅 Creato 2020-12-15
29
qiuzh20/gated_attention

L'implementazione ufficiale per [NeurIPS2025 Oral] Gated Attention per Modelli Linguistici di Grandi Dimensioni: Non-linearità, Sparsità e Senza Attention-Sink

qiuzh20
⭐ 994 Jupyter Notebook 👤 qiuzh20 User 🕐 Aggiornato 2025-12-20 📅 Creato 2025-05-09
30
AMLab-Amsterdam/AttentionDeepMIL

Implementazione dell'Apprendimento Profondo Multi-Instance Basato sull'Attenzione in PyTorch

AMLab-Amsterdam
⭐ 965 Python 👤 AMLab-Amsterdam Organization 🕐 Aggiornato 2024-01-08 📅 Creato 2018-02-26
31
lucidrains/linear-attention-transformer

Transformer basato su una variante dell'attenzione che ha complessità lineare rispetto alla lunghezza della sequenza

lucidrains
⭐ 821 Python 👤 lucidrains User 🕐 Aggiornato 2024-05-05 📅 Creato 2020-06-04
32
mit-han-lab/fastcomposer

[IJCV] FastComposer: Generazione di immagini multi-soggetto senza tuning con attenzione localizzata

mit-han-lab
⭐ 716 Python 👤 mit-han-lab Organization 🕐 Aggiornato 2025-01-10 📅 Creato 2023-05-17
33
swz30/MIRNet

[ECCV 2020] Apprendimento di caratteristiche arricchite per il ripristino e il miglioramento di immagini reali. Risultati SOTA per denoising, super-resolution e miglioramento di immagini.

swz30
⭐ 708 Python 👤 swz30 User 🕐 Aggiornato 2024-04-18 📅 Creato 2020-03-11
34
positive666/yolo_research

basato sul progetto di alto livello YOLO (detect\pose\classify\segment\): include YOLOv5\YOLOv7\YOLOv8\ Core, ricerca di miglioramento, SwinTransformerV2 e Attention Series. abilità di formazione, personalizzazione aziendale, distribuzione ingegneristica C

positive666
⭐ 667 Python 👤 positive666 User 🕐 Aggiornato 2026-04-27 📅 Creato 2021-02-25
35
Canjie-Luo/MORAN_v2

MORAN: Una Rete di Attenzione Rettificata per Oggetti Multipli per il Riconoscimento del Testo di Scena

Canjie-Luo
⭐ 648 Python 👤 Canjie-Luo User 🕐 Aggiornato 2024-07-25 📅 Creato 2019-01-09
36
zjx0101/ObjectClear

[CVPR'26] ObjectClear: Rimozione precisa di oggetti ed effetti con attenzione adattiva sensibile al target

zjx0101
⭐ 634 Python 👤 zjx0101 User 🕐 Aggiornato 2026-08-03 📅 Creato 2025-05-28
37
therealoliver/Deepdive-llama3-from-scratch

Realizza il passaggio di inferenza di llama3 passo dopo passo, afferra i concetti fondamentali, padroneggia la derivazione del processo, implementa il codice.

therealoliver
⭐ 629 Jupyter Notebook 👤 therealoliver User 🕐 Aggiornato 2025-02-24 📅 Creato 2025-02-19
38
kyegomez/zeta

Crea modelli AI ad alte prestazioni con blocchi modulari

kyegomez
⭐ 605 Python 👤 kyegomez User 🕐 Aggiornato 2026-11-16 📅 Creato 2023-07-09
39
bhoov/exbert

Uno strumento di analisi visiva per esplorare le rappresentazioni apprese nei modelli Transformers

bhoov
⭐ 602 Python 👤 bhoov User 🕐 Aggiornato 2024-02-07 📅 Creato 2019-10-14
40
prs-eth/OverlapPredator

[CVPR 2021, Orale] PREDATOR: Registrazione di nuvole di punti 3D con bassa sovrapposizione.

prs-eth
⭐ 599 Python 👤 prs-eth Organization 🕐 Aggiornato 2025-02-20 📅 Creato 2020-11-24
41
Haiyang-W/TokenFormer

[ICLR2025 Spotlight🔥] Implementazione ufficiale di TokenFormer: Ripensare il ridimensionamento dei Transformer con parametri di modello tokenizzati

Haiyang-W
⭐ 590 Python 👤 Haiyang-W User 🕐 Aggiornato 2025-02-11 📅 Creato 2024-10-29
43
lucidrains/enformer-pytorch

Implementazione di Enformer, la rete di attenzione di Deepmind per la predizione dell'espressione genica, in Pytorch

lucidrains
⭐ 576 Python 👤 lucidrains User 🕐 Aggiornato 2026-06-26 📅 Creato 2021-10-23
45
wgcban/ChangeFormer

[IGARSS'22]: Una Rete Siamese Basata su Trasformatori per il Rilevamento delle Modifiche

wgcban
⭐ 555 Python 👤 wgcban User 🕐 Aggiornato 2024-01-31 📅 Creato 2021-12-02
46
lucidrains/ring-attention-pytorch

Implementazione di 💍 Ring Attention, di Liu et al. del Berkeley AI, in Pytorch

lucidrains
⭐ 547 Python 👤 lucidrains User 🕐 Aggiornato 2025-05-16 📅 Creato 2024-02-14
47
kyegomez/RT-2

Democratizzazione di RT-2 „RT-2: Il nuovo modello traduce visione e linguaggio in azione“

kyegomez
⭐ 539 Python 👤 kyegomez User 🕐 Aggiornato 2024-07-26 📅 Creato 2023-07-28
48
WenjieDu/SAITS

L'implementazione ufficiale PyTorch del paper "SAITS: Imputazione basata su Self-Attention per Serie Temporali". Un modello di rete neurale deep-learning veloce e all'avanguardia (SOTA) per l'imputazione efficiente delle serie temporali (imputare serie temporali multivariate incomplete contenenti dati/valori mancanti NaN con machine learning). https://arxiv.org/abs/2202.08516

WenjieDu
⭐ 521 Python 👤 WenjieDu User 🕐 Aggiornato 2026-08-25 📅 Creato 2021-12-07
49
zhengchen1999/DAT

[ICCV'23] Transformer a Doppia Aggregazione per la Super-Risoluzione di Immagini

zhengchen1999
⭐ 517 Python 👤 zhengchen1999 User 🕐 Aggiornato 2024-11-26 📅 Creato 2022-11-10
50
lucidrains/slot-attention

Implementazione di Slot Attention di Google AI

lucidrains
⭐ 502 Python 👤 lucidrains User 🕐 Aggiornato 2026-06-06 📅 Creato 2020-06-29

Domande frequenti

1

Qual è il repository #attention-mechanism più popolare su GitHub?

Il progetto open source #attention-mechanism più alto in classifica su GitHub è rasbt/LLMs-from-scratch, con 108,745 stelle. Implementa un LLM simile a ChatGPT in PyTorch da zero, passo dopo passo

2

Quali linguaggi di programmazione sono più utilizzati nei repository #attention-mechanism?

Tra i progetti #attention-mechanism più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, Jupyter Notebook, Rust, Swift.

3

Come viene calcolata la classifica dei repository #attention-mechanism?

Monitoriamo 50 repository open source attivi contrassegnati con #attention-mechanism (500+ stelle), per un totale di 274,514 stelle e una media di 5,490 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.