#flash-attention Repository
Scopri 48 repository GitHub open source attivi contrassegnati con #flash-attention, che raccolgono un totale di 156,291 stelle (con una media di 3,256 stelle per progetto). Il progetto leader di questo argomento è deepseek-ai/DeepSeek-OCR, con 24,180 stelle.
48 repository in totale
Il repository ufficiale di Qwen (通义千问), il modello linguistico di grandi dimensioni pre-addestrato e di chat proposto da Alibaba Cloud.
Un libro open source con appunti di apprendimento sul CUDA moderno per principianti: BF16/FP8/FP4, HGEMM, CuTe, Flash-Attention, ecc.
Rilascio ufficiale della serie InternLM (InternLM, InternLM2, InternLM2.5, InternLM3).
Modelli LLaMA-2 e Alpaca-2 cinesi di grandi dimensioni Fase II + Modelli a contesto ultra-lungo da 64K (Chinese LLaMA-2 & Alpaca-2 LLMs with 64K long context models)
Questo è un semplice progetto di tutorial tecnico科普, focalizzato principalmente sulla spiegazione di concetti e principi tecnologici interessanti e all'avanguardia. Ogni articolo si sforza di essere completato in 5 minuti di lettura.
📚Un elenco curato di Awesome LLM/VLM Inference Papers con codici: Flash-Attention, Paged-Attention, WINT8/4, Parallelism, ecc.🎉
Una libreria di inferenza veloce per eseguire LLM localmente su moderne GPU di classe consumer
Qwen3-ASR è una serie di modelli ASR open-source sviluppati dal team Qwen di Alibaba Cloud, in grado di supportare un riconoscimento stabile della voce/musica/canzone multilingue, la rilevazione della lingua e la previsione dei timestamp.
Codice ufficiale per "Self Forcing: Bridging Training and Inference in Autoregressive Video Diffusion" (NeurIPS 2025 Spotlight)
[ECCV 2024] Implementazione ufficiale del codice di Vary: Scaling Up the Vision Vocabulary of Large Vision Language Models.
Fornire ruote di pacchetti pre-compilate per flash-attention 2 e 3 su Linux e Windows usando GitHub Actions
SoulX-FlashTalk è il primo modello 14B a raggiungere una latenza di avvio sub-secondo (0,87s) mantenendo un throughput in tempo reale di 32 FPS su un nodo 8xH800.
Costruzione di robot per scopi generali basati su modelli fondazionali incarnati
cuDNN Frontend è il moderno punto di accesso open source di NVIDIA alla libreria cuDNN e a una crescente raccolta di kernel open source ad alte prestazioni.
Attenzione distribuita verso la scalabilità lineare per l'addestramento su contesti ultra-lunghi e dati eterogenei
Lumina-Image 2.0: Un framework unificato ed efficiente per la generazione di immagini
Una codebase flessibile ed efficiente per l'addestramento di modelli linguistici visivamente-condizionati (VLM)
Una libreria completa per l'implementazione di LLM, che include una pipeline di addestramento unificata e una valutazione completa del modello.
rCM & Causal-rCM: Algoritmi/infrastrutture leader e unificati per la distillazione della diffusione video bidirezionale/autoregressiva su larga scala
[ICCV 2023] StreamPETR: Esplorazione della modellazione temporale incentrata sull'oggetto per un Efficiente Rilevamento di Oggetti 3D Multi-Vista
Ottimizzazione della memoria e ricette di addestramento per estrapolare la lunghezza del contesto dei modelli linguistici a 1 milione di token, con hardware minimo.
Attenzione sparsa addestrabile, veloce ed efficiente dal punto di vista della memoria
[CVPR 2026 Highlight] Implementazioni Ufficiali per il Paper - HoloCine: Generazione Olistica di Narrative Video Lungo Multi-Shot Cinematografiche
Implementazione PyTorch di "V* : Guided Visual Search as a Core Mechanism in Multimodal LLMs"
[ICML 2024 Best Paper] Modellazione discreta per diffusione stimando i rapporti della distribuzione dei dati (https://arxiv.org/abs/2310.16834)
WeDLM: Il modello linguistico di diffusione più veloce con attenzione causale standard e compatibilità nativa con la cache KV, che offre accelerazioni reali rispetto alle basi ottimizzate con vLLM.
Da insegnante a tessere — un motore di distillazione e servizio LLM costruito da zero: kernel Triton/CUDA personalizzati, distillazione FSDP, elaborazione batch continua con KV paginato, decodifica speculativa, un gateway Rust, un oracolo JAX e strumenti di interpretabilità.
[ICLR 2025] DuoAttention: Inferenza LLM efficiente per contesti lunghi con teste di recupero e streaming
Domande frequenti
Qual è il repository #flash-attention più popolare su GitHub?
Il progetto open source #flash-attention più alto in classifica su GitHub è deepseek-ai/DeepSeek-OCR, con 24,180 stelle. Contesti di compressione ottica
Quali linguaggi di programmazione sono più utilizzati nei repository #flash-attention?
Tra i progetti #flash-attention più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, Cuda, TeX, C++.
Come viene calcolata la classifica dei repository #flash-attention?
Monitoriamo 48 repository open source attivi contrassegnati con #flash-attention (500+ stelle), per un totale di 156,291 stelle e una media di 3,256 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.