#attention-mechanism Repository
Scopri 50 repository GitHub open source attivi contrassegnati con #attention-mechanism, che raccolgono un totale di 274,514 stelle (con una media di 5,490 stelle per progetto). Il progetto leader di questo argomento è rasbt/LLMs-from-scratch, con 108,745 stelle.
50 repository in totale
Implementazione del Vision Transformer, un modo semplice per raggiungere lo stato dell'arte nella classificazione visiva con un solo encoder transformer in Pytorch
《Reti neurali e deep learning》 di Qiu Xipeng, seconda edizione ed edizione divulgativa: e-book, indice dei capitoli, risorse per lo studio e errata corrige.
RWKV (pronunciato RwaKuv) è un RNN con ottime prestazioni LLM, che può anche essere addestrato direttamente come un transformer GPT (parallelizzabile). Siamo a RWKV-7 "Goose". Quindi combina il meglio di RNN e transformer - ottime prestazioni, tempo lineare, spazio costante (nessuna cache kv), addestramento veloce, ctx_len infinito e embedding di frasi gratuito.
Blocchi costitutivi di Transformer modificabili e ottimizzati, che supportano una costruzione componibile.
Un trasformatore full-attention conciso ma completo con una serie di promettenti funzionalità sperimentali da vari articoli
Implementazione / replica di DALL-E, il trasformatore Text to Image di OpenAI, in Pytorch
Un elenco definitivo e completo di articoli su Vision Transformer/Attention, inclusi articoli, codici e siti Web correlati
RuVector offre processi decisionali e memoria degli agenti ad alte prestazioni in tempo reale, IA autoapprendente e un database GNN vettoriale sviluppato in Rust.
Costruisci un LLM moderno da zero. Ogni riga commentata. Spiegato come se avessimo cinque anni.
[NeurIPS 2025] YOLOv12: Rilevatori di oggetti in tempo reale incentrati sull'attenzione
Riconoscimento vocale automatico multilingue con timestamp a livello di parola e confidenza
Questo è il repository ufficiale di "The Hundred-Page Language Models Book" di Andriy Burkov
Impara i dettagli interni degli LLM passo dopo passo - dalla tokenizzazione all'attenzione all'ottimizzazione dell'inferenza.
Implementazione di SoundStorm, generazione audio parallela efficiente di Google Deepmind, in Pytorch
Codice PyTorch per il nostro articolo ECCV 2018 "Image Super-Resolution Using Very Deep Residual Channel Attention Networks"
Implementazione di Perceiver, Percezione Generale con Attenzione Iterativa, in Pytorch
Framework sequence-to-sequence con focus sulla Traduzione Automatica Neurale basato su PyTorch
OpenSTL: Un benchmark completo per l'apprendimento predittivo spazio-temporale
Una libreria di Deep Learning per la classificazione di attività (segnali) EEG, basata su TensorFlow.
Una lista curata di risorse NLP focalizzata su reti Transformer, meccanismo di attenzione, GPT, BERT, ChatGPT, LLMs e transfer learning.
Implementazione di TabTransformer, una rete di attenzione per dati tabulari, in Pytorch
L'implementazione ufficiale per [NeurIPS2025 Oral] Gated Attention per Modelli Linguistici di Grandi Dimensioni: Non-linearità, Sparsità e Senza Attention-Sink
Implementazione dell'Apprendimento Profondo Multi-Instance Basato sull'Attenzione in PyTorch
Transformer basato su una variante dell'attenzione che ha complessità lineare rispetto alla lunghezza della sequenza
[IJCV] FastComposer: Generazione di immagini multi-soggetto senza tuning con attenzione localizzata
[ECCV 2020] Apprendimento di caratteristiche arricchite per il ripristino e il miglioramento di immagini reali. Risultati SOTA per denoising, super-resolution e miglioramento di immagini.
basato sul progetto di alto livello YOLO (detect\pose\classify\segment\): include YOLOv5\YOLOv7\YOLOv8\ Core, ricerca di miglioramento, SwinTransformerV2 e Attention Series. abilità di formazione, personalizzazione aziendale, distribuzione ingegneristica C
MORAN: Una Rete di Attenzione Rettificata per Oggetti Multipli per il Riconoscimento del Testo di Scena
[CVPR'26] ObjectClear: Rimozione precisa di oggetti ed effetti con attenzione adattiva sensibile al target
Realizza il passaggio di inferenza di llama3 passo dopo passo, afferra i concetti fondamentali, padroneggia la derivazione del processo, implementa il codice.
Uno strumento di analisi visiva per esplorare le rappresentazioni apprese nei modelli Transformers
[CVPR 2021, Orale] PREDATOR: Registrazione di nuvole di punti 3D con bassa sovrapposizione.
[ICLR2025 Spotlight🔥] Implementazione ufficiale di TokenFormer: Ripensare il ridimensionamento dei Transformer con parametri di modello tokenizzati
Implementazione di Enformer, la rete di attenzione di Deepmind per la predizione dell'espressione genica, in Pytorch
[IGARSS'22]: Una Rete Siamese Basata su Trasformatori per il Rilevamento delle Modifiche
Implementazione di 💍 Ring Attention, di Liu et al. del Berkeley AI, in Pytorch
Democratizzazione di RT-2 „RT-2: Il nuovo modello traduce visione e linguaggio in azione“
L'implementazione ufficiale PyTorch del paper "SAITS: Imputazione basata su Self-Attention per Serie Temporali". Un modello di rete neurale deep-learning veloce e all'avanguardia (SOTA) per l'imputazione efficiente delle serie temporali (imputare serie temporali multivariate incomplete contenenti dati/valori mancanti NaN con machine learning). https://arxiv.org/abs/2202.08516
[ICCV'23] Transformer a Doppia Aggregazione per la Super-Risoluzione di Immagini
Domande frequenti
Qual è il repository #attention-mechanism più popolare su GitHub?
Il progetto open source #attention-mechanism più alto in classifica su GitHub è rasbt/LLMs-from-scratch, con 108,745 stelle. Implementa un LLM simile a ChatGPT in PyTorch da zero, passo dopo passo
Quali linguaggi di programmazione sono più utilizzati nei repository #attention-mechanism?
Tra i progetti #attention-mechanism più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, Jupyter Notebook, Rust, Swift.
Come viene calcolata la classifica dei repository #attention-mechanism?
Monitoriamo 50 repository open source attivi contrassegnati con #attention-mechanism (500+ stelle), per un totale di 274,514 stelle e una media di 5,490 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.