Git Stars Git Stars

#flash-attention Repositórios

Descubra 48 repositórios ativos de código aberto no GitHub marcados com #flash-attention, acumulando um total de 156,291 estrelas (uma média de 3,256 por projeto). O líder deste tópico é deepseek-ai/DeepSeek-OCR, com 24,180 estrelas.

48
Total de Repositórios
156,291
Total de estrelas
3,256
Média de Estrelas/Repositório

48 repositórios no total

1
deepseek-ai/DeepSeek-OCR

Contextos de compressão óptica

deepseek-ai
⭐ 24,180 Python 👤 deepseek-ai Organization 🕐 Atualizado 2026-01-27 📅 Criado 2025-10-17
2
QwenLM/Qwen

O repositório oficial do chat e do modelo de linguagem grande pré-treinado Qwen (通义千问) proposto pela Alibaba Cloud.

QwenLM
⭐ 22,063 Python 👤 QwenLM Organization 🕐 Atualizado 2026-03-05 📅 Criado 2023-08-03
3
xlite-dev/LeetCUDA

Um livro de código aberto com notas de aprendizado sobre CUDA moderno para iniciantes — BF16/FP8/FP4, HGEMM, CuTe, Flash-Attention etc.

xlite-dev
⭐ 12,208 TeX 👤 xlite-dev Organization 🕐 Atualizado 2026-11-20 📅 Criado 2022-12-17
5
InternLM/InternLM

Lançamento oficial da série InternLM (InternLM, InternLM2, InternLM2.5, InternLM3).

InternLM
⭐ 7,280 Python 👤 InternLM Organization 🕐 Atualizado 2025-10-30 📅 Criado 2023-07-06
6
ymcui/Chinese-LLaMA-Alpaca-2

Projeto de Segunda Fase dos Grandes Modelos LLaMA-2 e Alpaca-2 em Chinês + Modelos de Contexto Ultralongo de 64K (Chinese LLaMA-2 & Alpaca-2 LLMs with 64K long context models)

ymcui
⭐ 7,098 Python 👤 ymcui User 🕐 Atualizado 2026-04-19 📅 Criado 2023-07-18
7
karminski/one-small-step

Este é um projeto simples de tutorial de divulgação científica e técnica, focado principalmente em explicar alguns conceitos e princípios técnicos interessantes e de ponta. Cada artigo deve ser lido em 5 minutos.

karminski
⭐ 7,006 Python 👤 karminski User 🕐 Atualizado 2026-03-08 📅 Criado 2025-01-16
9
xlite-dev/Awesome-LLM-Inference

📚Uma lista selecionada de artigos incríveis sobre Inferência de LLM/VLM com Códigos: Flash-Attention, Paged-Attention, WINT8/4, Parallelism, etc.🎉

xlite-dev
⭐ 5,565 Python 👤 xlite-dev Organization 🕐 Atualizado 2026-10-20 📅 Criado 2023-08-27
10
turboderp-org/exllamav2

Uma biblioteca de inferência rápida para executar LLMs localmente em GPUs de classe de consumidor modernas

turboderp-org
⭐ 4,653 Python 👤 turboderp-org Organization 🕐 Atualizado 2026-03-04 📅 Criado 2023-08-30
11
QwenLM/Qwen3-ASR

Qwen3-ASR é uma série de modelos ASR open-source desenvolvida pela equipe Qwen da Alibaba Cloud, que suporta reconhecimento estável de fala/música/canção multilíngue, detecção de idioma e previsão de timestamps.

QwenLM
⭐ 3,933 Python 👤 QwenLM Organization 🕐 Atualizado 2026-06-26 📅 Criado 2026-01-28
12
HazyResearch/ThunderKittens

Primitivas de tile para kernels rápidos

HazyResearch
⭐ 3,805 Cuda 👤 HazyResearch Organization 🕐 Atualizado 2026-09-12 📅 Criado 2024-03-04
13
guandeh17/Self-Forcing

Base de código oficial para "Self Forcing: Preenchendo a lacuna entre Treinamento e Inferência em Difusão de Vídeo Autorregressiva" (Destaque do NeurIPS 2025)

guandeh17
⭐ 3,511 Python 👤 guandeh17 User 🕐 Atualizado 2025-09-12 📅 Criado 2025-06-09
14
ikawrakow/ik_llama.cpp

fork do llama.cpp com quants SOTA adicionais e desempenho aprimorado

ikawrakow
⭐ 3,411 C++ 👤 ikawrakow User 🕐 Atualizado 2026-11-21 📅 Criado 2024-06-27
16
MoonshotAI/MoBA

MoBA: Mistura de Atenção em Blocos para LLMs de Contexto Longo

MoonshotAI
⭐ 2,122 Python 👤 MoonshotAI Organization 🕐 Atualizado 2025-04-03 📅 Criado 2025-02-17
17
Ucas-HaoranWei/Vary

[ECCV 2024] Implementação oficial do código de Vary: Ampliando o Vocabulário Visual de Grandes Modelos de Visão e Linguagem.

Ucas-HaoranWei
⭐ 1,888 Python 👤 Ucas-HaoranWei User 🕐 Atualizado 2024-12-30 📅 Criado 2023-12-07
19
allenai/Olmo-core

Blocos de construção PyTorch para o ecossistema OLMo

allenai
⭐ 1,810 Python 👤 allenai Organization 🕐 Atualizado 2026-11-21 📅 Criado 2024-03-23
20
mjun0812/flash-attention-prebuild-wheels

Fornecer rodas de pacotes pré-construídas do flash-attention 2 e 3 no Linux e Windows usando GitHub Actions

mjun0812
⭐ 1,798 Python 👤 mjun0812 User 🕐 Atualizado 2026-11-21 📅 Criado 2024-10-26
21
Soul-AILab/SoulX-FlashTalk

SoulX-FlashTalk é o primeiro modelo 14B a alcançar latência de inicialização inferior a um segundo (0,87s) enquanto mantém um throughput em tempo real de 32 FPS em um nó 8xH800.

Soul-AILab
⭐ 1,572 Python 👤 Soul-AILab Organization 🕐 Atualizado 2026-07-30 📅 Criado 2025-12-25
23
X-Square-Robot/wall-x

Construção de Robôs de Propósito Geral Baseada em Modelo de Fundação Incorporado

X-Square-Robot
⭐ 1,337 Python 👤 X-Square-Robot Organization 🕐 Atualizado 2026-09-18 📅 Criado 2025-09-04
24
weiruihhh/cs336_note_and_hw

Registrar meus apontamentos e tarefas ao estudar em cs336.

weiruihhh
⭐ 1,305 Python 👤 weiruihhh User 🕐 Atualizado 2026-10-10 📅 Criado 2025-06-01
25
zhuzilin/ring-flash-attention

Implementação de atenção com atenção flash

zhuzilin
⭐ 1,054 Python 👤 zhuzilin User 🕐 Atualizado 2025-09-10 📅 Criado 2024-02-21
26
tspeterkim/flash-attention-minimal

Flash Attention em ~100 linhas de CUDA (apenas passagem para frente)

tspeterkim
⭐ 1,036 Cuda 👤 tspeterkim User 🕐 Atualizado 2024-12-30 📅 Criado 2024-03-07
27
NVIDIA/cudnn-frontend

O cuDNN Frontend é o ponto de entrada moderno e de código aberto da NVIDIA para a biblioteca cuDNN e uma coleção crescente de kernels de código aberto de alto desempenho.

NVIDIA
⭐ 1,008 Cuda 👤 NVIDIA Organization 🕐 Atualizado 2026-11-21 📅 Criado 2021-01-22
28
SandAI-org/MagiAttention

Uma Atenção Distribuída para a Escalabilidade Linear em Contextos Ultralongos e Treinamento de Dados Heterogêneos

SandAI-org
⭐ 975 Python 👤 SandAI-org Organization 🕐 Atualizado 2026-11-21 📅 Criado 2025-04-20
29
Alpha-VLLM/Lumina-Image-2.0

Lumina-Image 2.0: Uma Estrutura Generativa de Imagem Unificada e Eficiente

Alpha-VLLM
⭐ 904 Python 👤 Alpha-VLLM Organization 🕐 Atualizado 2026-05-22 📅 Criado 2025-01-25
30
TRI-ML/prismatic-vlms

Uma base de código flexível e eficiente para o treinamento de modelos de linguagem condicionados visualmente (VLMs)

TRI-ML
⭐ 894 Python 👤 TRI-ML Organization 🕐 Atualizado 2024-07-04 📅 Criado 2024-02-13
31
RUCAIBox/LLMBox

Uma biblioteca abrangente para implementar LLMs, incluindo um pipeline de treinamento unificado e avaliação abrangente de modelos.

RUCAIBox
⭐ 849 Python 👤 RUCAIBox Organization 🕐 Atualizado 2025-06-16 📅 Criado 2023-10-25
32
NVlabs/rcm

rCM & Causal-rCM: Algoritmos/infraestruturas líderes e unificados para destilação de difusão de vídeo bidirecional/autorregressiva em escala

NVlabs
⭐ 832 Python 👤 NVlabs Organization 🕐 Atualizado 2026-06-25 📅 Criado 2025-10-09
35
exiawsh/StreamPETR

[ICCV 2023] StreamPETR: Explorando a Modelagem Temporal Centrada em Objetos para Detecção Eficiente de Objetos 3D Multivisão

exiawsh
⭐ 754 Python 👤 exiawsh User 🕐 Atualizado 2024-06-26 📅 Criado 2023-03-21
37
jzhang38/EasyContext

Otimização de memória e receitas de treinamento para extrapolar o comprimento de contexto dos modelos de linguagem para 1 milhão de tokens, com hardware mínimo.

jzhang38
⭐ 751 Python 👤 jzhang38 User 🕐 Atualizado 2024-09-27 📅 Criado 2024-04-05
38
HKUSTDial/flash-sparse-attention

Atenção esparsa treinável, rápida e eficiente em memória

HKUSTDial
⭐ 750 Python 👤 HKUSTDial Organization 🕐 Atualizado 2026-11-20 📅 Criado 2025-05-12
40
yihao-meng/HoloCine

[CVPR 2026 Destaque] Implementações Oficiais para o Artigo - HoloCine: Geração Holística de Narrativas de Vídeo Longo Multi-Shot Cinematográficas

yihao-meng
⭐ 707 Python 👤 yihao-meng User 🕐 Atualizado 2025-11-26 📅 Criado 2025-10-22
41
penghao-wu/vstar

Implementação em PyTorch de "V* : Busca Visual Guiada como um Mecanismo Central em LLMs Multimodais"

penghao-wu
⭐ 684 Python 👤 penghao-wu User 🕐 Atualizado 2024-01-07 📅 Criado 2023-12-15
42
louaaron/Score-Entropy-Discrete-Diffusion

[Melhor Artigo ICML 2024] Modelagem de Difusão Discreta Estimando as Razões da Distribuição dos Dados (https://arxiv.org/abs/2310.16834)

louaaron
⭐ 681 Python 👤 louaaron User 🕐 Atualizado 2024-02-29 📅 Criado 2024-02-21
43
Tencent/WeDLM

WeDLM: O modelo de linguagem de difusão mais rápido com atenção causal padrão e compatibilidade nativa com cache KV, entregando acelerações reais em comparação com as linhas de base otimizadas com vLLM.

Tencent
⭐ 659 Python 👤 Tencent Organization 🕐 Atualizado 2026-03-03 📅 Criado 2025-12-24
44
zengxiao-he/tessera

Do professor aos blocos — um mecanismo de destilação e serviço de LLM construído do zero: kernels Triton/CUDA personalizados, destilação FSDP, processamento em lote contínuo com KV paginado, decodificação especulativa, um gateway Rust, um oráculo JAX e ferramentas de interpretabilidade.

zengxiao-he
⭐ 556 Python 👤 zengxiao-he User 🕐 Atualizado 2026-10-09 📅 Criado 2026-06-05
46
mit-han-lab/duo-attention

[ICLR 2025] DuoAttention: Inferência Eficiente de LLM de Contexto Longo com Cabeças de Recuperação e Streaming

mit-han-lab
⭐ 541 Python 👤 mit-han-lab Organization 🕐 Atualizado 2025-02-10 📅 Criado 2024-10-15
47
DachengLi1/LongChat

Repositório oficial para LongChat e LongEval

DachengLi1
⭐ 533 Python 👤 DachengLi1 User 🕐 Atualizado 2024-05-24 📅 Criado 2023-04-21
48
bofenghuang/vigogne

Modelos franceses de conversação e de seguimento de instruções

bofenghuang
⭐ 506 Jupyter Notebook 👤 bofenghuang User 🕐 Atualizado 2024-12-05 📅 Criado 2023-03-24

Perguntas Frequentes

1

Qual é o repositório de #flash-attention mais popular no GitHub?

O projeto de código aberto de #flash-attention mais bem classificado no GitHub é deepseek-ai/DeepSeek-OCR, com 24,180 estrelas. Contextos de compressão óptica

2

Quais linguagens de programação são mais usadas nos repositórios de #flash-attention?

Entre os projetos de #flash-attention mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, Cuda, TeX, C++.

3

Como é calculada a classificação dos repositórios de #flash-attention?

Acompanhamos 48 repositórios ativos de código aberto marcados com #flash-attention (com mais de 500 estrelas), totalizando 156,291 estrelas e uma média de 3,256 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.