Git Stars Git Stars

#attention-mechanisms Repositórios

Descubra 39 repositórios ativos de código aberto no GitHub marcados com #attention-mechanisms, acumulando um total de 77,773 estrelas (uma média de 1,994 por projeto). O líder deste tópico é lucidrains/PaLM-rlhf-pytorch, com 7,858 estrelas.

39
Total de Repositórios
77,773
Total de estrelas
1,994
Média de Estrelas/Repositório
Linguagens de programação: Python Jupyter Notebook TypeScript

39 repositórios no total

1
lucidrains/PaLM-rlhf-pytorch

Implementação de RLHF (Reinforcement Learning with Human Feedback) sobre a arquitetura PaLM. Basicamente ChatGPT, mas com PaLM

lucidrains
⭐ 7,858 Python 👤 lucidrains User 🕐 Atualizado 2026-09-20 📅 Criado 2022-12-09
2
lllyasviel/Omost

Sua imagem está quase lá!

lllyasviel
⭐ 7,661 Python 👤 lllyasviel User 🕐 Atualizado 2024-07-26 📅 Criado 2024-05-29
3
mit-han-lab/streaming-llm

[ICLR 2024] Modelos de Linguagem em Streaming Eficientes com Attention Sinks

mit-han-lab
⭐ 7,165 Python 👤 mit-han-lab Organization 🕐 Atualizado 2024-07-11 📅 Criado 2023-09-29
5
cmhungsteve/Awesome-Transformer-Attention

Uma lista definitiva e abrangente de artigos sobre Vision Transformer/Attention, incluindo artigos, códigos e sites relacionados

cmhungsteve
⭐ 4,987 👤 cmhungsteve User 🕐 Atualizado 2024-07-30 📅 Criado 2021-09-15
6
fundamentalvision/Deformable-DETR

Deformable DETR: Transformers Deformáveis para Detecção de Objetos Fim a Fim.

fundamentalvision
⭐ 3,846 Python 👤 fundamentalvision Organization 🕐 Atualizado 2024-05-16 📅 Criado 2020-11-30
7
Everlyn-Labs/Everlyn-1

O primeiro modelo de IA de vídeo fundamental autorregressivo aberto.

Everlyn-Labs
⭐ 2,891 👤 Everlyn-Labs Organization 🕐 Atualizado 2026-10-07 📅 Criado 2024-10-13
8
MenghaoGuo/Awesome-Vision-Attentions

Resumo de artigos relacionados sobre atenção visual. O código relacionado será lançado gradualmente com base no Jittor.

MenghaoGuo
⭐ 2,844 Python 👤 MenghaoGuo User 🕐 Atualizado 2024-10-20 📅 Criado 2021-09-01
9
lucidrains/audiolm-pytorch

Implementação em Pytorch do AudioLM, uma Abordagem de Modelagem de Linguagem SOTA (Estado da Arte) para Geração de Áudio, desenvolvida pela Google Research

lucidrains
⭐ 2,620 Python 👤 lucidrains User 🕐 Atualizado 2025-01-12 📅 Criado 2022-09-09
10
heykeetae/Self-Attention-GAN

Implementação em Pytorch das Redes Generativas Adversariais de Auto-Atenção (SAGAN)

heykeetae
⭐ 2,603 Python 👤 heykeetae User 🕐 Atualizado 2024-04-22 📅 Criado 2018-05-28
11
lucidrains/toolformer-pytorch

Implementação do Toolformer, Modelos de Linguagem que Podem Usar Ferramentas, pela MetaAI

lucidrains
⭐ 2,055 Python 👤 lucidrains User 🕐 Atualizado 2024-07-22 📅 Criado 2023-02-10
12
lucidrains/make-a-video-pytorch

Implementação do Make-A-Video, novo gerador de texto para vídeo SOTA da Meta AI, em Pytorch

lucidrains
⭐ 1,983 Python 👤 lucidrains User 🕐 Atualizado 2024-05-03 📅 Criado 2022-09-29
13
lehaifeng/T-GCN

Rede Neuronal Convolucional Temporal para o Método de Previsão de Fluxo de Tráfego Urbano

lehaifeng
⭐ 1,782 Jupyter Notebook 👤 lehaifeng User 🕐 Atualizado 2025-09-01 📅 Criado 2018-11-12
14
lucidrains/alphafold3-pytorch

Implementação do Alphafold 3 do Google Deepmind em Pytorch

lucidrains
⭐ 1,700 Python 👤 lucidrains User 🕐 Atualizado 2026-08-10 📅 Criado 2024-05-08
15
franciszzj/Leffa

[CVPR 2025] Aprendendo Campos de Fluxo em Atenção para Geração Controlável de Imagens de Pessoas

franciszzj
⭐ 1,675 Python 👤 franciszzj User 🕐 Atualizado 2025-09-12 📅 Criado 2024-12-05
16
AIFengheshu/Plug-play-modules

Módulos plug-and-play mais completos da internet em 2025, compartilhamento gratuito! CVPR2025, AAAI2025, ICLR2025, TNNLS2025, arXiv2025...... cobrindo todas as áreas da inteligência artificial (aprendizado de máquina, aprendizado profundo, etc.), aplicáveis a diversas tarefas de visão computacional e processamento de imagem, como classificação de imagens, detecção de objetos, segmentação de instâncias, segmentação semântica, segmentação panorâmica, reconhecimento de pose, segmentação de imagens médicas, segmentação de objetos em vídeo, matting de imagem, edição de imagem, rastreamento de objeto único, rastreamento de múltiplos objetos, reidentificação de pedestres, RGBT, denoising de imagem, remoção de chuva, desembaçamento, remoção de sombra, remoção de desfoque, super-resolução, remoção de reflexos, remoção de moiré, restauração de imagem, reparo de imagem, restauração de imagens hiperespectrais, fusão de imagens, colorização de imagem, imagem de alto alcance dinâmico, compressão de vídeo e imagem, nuvem de pontos 3D, detecção de objetos 3D, segmentação semântica 3D, reconhecimento de pose 3D, bem como outras tarefas relacionadas à inteligência artificial, como processamento de linguagem natural, grandes modelos de linguagem e multimodais. Em constante atualização......

AIFengheshu
⭐ 1,547 Python 👤 AIFengheshu User 🕐 Atualizado 2025-05-24 📅 Criado 2024-10-09
17
XPixelGroup/HAT

CVPR2023 - Ativando Mais Pixels em Transformadores de Super-Resolução de Imagem TPAMI - HAT: Transformador de Atenção Híbrida para Restauração de Imagem

XPixelGroup
⭐ 1,455 Python 👤 XPixelGroup Organization 🕐 Atualizado 2024-06-02 📅 Criado 2022-04-27
18
facebookresearch/llm-transparency-tool

LLM Transparency Tool (LLM-TT), um kit de ferramentas interativo de código aberto para analisar o funcionamento interno de modelos de linguagem baseados em Transformer. *Confira a demonstração em* https://huggingface.co/spaces/facebook/llm-transparency-tool-demo

facebookresearch
⭐ 1,228 Python 👤 facebookresearch Organization 🕐 Atualizado 2024-12-03 📅 Criado 2023-12-21
19
DAMO-NLP-SG/VideoLLaMA3

Modelos de Fundação Multimodais de Fronteira para Compreensão de Imagens e Vídeos

DAMO-NLP-SG
⭐ 1,174 Jupyter Notebook 👤 DAMO-NLP-SG Organization 🕐 Atualizado 2025-08-14 📅 Criado 2025-01-19
20
gpu-mode/awesomeMLSys

Uma lista de integração de sistemas de ML

gpu-mode
⭐ 1,154 👤 gpu-mode Organization 🕐 Atualizado 2026-02-19 📅 Criado 2024-05-06
21
zhuzilin/ring-flash-attention

Implementação de atenção com atenção flash

zhuzilin
⭐ 1,054 Python 👤 zhuzilin User 🕐 Atualizado 2025-09-10 📅 Criado 2024-02-21
22
lucidrains/BS-RoFormer

Implementação do Band Split Roformer, uma rede de atenção SOTA (State-of-the-Art) para separação de fontes musicais do ByteDance AI Labs

lucidrains
⭐ 1,030 Python 👤 lucidrains User 🕐 Atualizado 2026-11-04 📅 Criado 2023-09-09
23
microsoft/Samba

[ICLR 2025] Samba: Modelos de Espaço de Estados Híbridos Simples para Modelagem de Linguagem de Contexto Ilimitado Eficiente

microsoft
⭐ 981 Python 👤 microsoft Organization 🕐 Atualizado 2025-11-16 📅 Criado 2024-06-05
24
daixiangzi/Awesome-Token-Compress

Uma lista de artigos sobre trabalhos recentes de Compressão de Tokens para Vit e VLM

daixiangzi
⭐ 966 👤 daixiangzi User 🕐 Atualizado 2026-11-13 📅 Criado 2024-09-06
25
lucidrains/muse-maskgit-pytorch

Implementação do Muse: Geração de Texto para Imagem via Transformadores Generativos Mascarados, em Pytorch

lucidrains
⭐ 920 Python 👤 lucidrains User 🕐 Atualizado 2024-02-29 📅 Criado 2023-01-03
26
lucidrains/meshgpt-pytorch

Implementação de MeshGPT, geração de malhas SOTA usando Atenção, em Pytorch

lucidrains
⭐ 858 Python 👤 lucidrains User 🕐 Atualizado 2024-12-24 📅 Criado 2023-11-29
27
mystorm16/FastVGGT

[ICLR 2026] FastVGGT: Transformador Rápido de Geometria Visual

mystorm16
⭐ 826 Python 👤 mystorm16 User 🕐 Atualizado 2026-01-28 📅 Criado 2025-09-01
28
lucidrains/phenaki-pytorch

Implementação do Phenaki Video, que utiliza Mask GIT para produzir vídeos guiados por texto com até 2 minutos de duração, em Pytorch

lucidrains
⭐ 792 Python 👤 lucidrains User 🕐 Atualizado 2024-07-29 📅 Criado 2022-09-29
29
D-Keqi/mtla

MTLA: Atenção Latente Temporal Multi-cabeça

D-Keqi
⭐ 761 Python 👤 D-Keqi User 🕐 Atualizado 2025-10-06 📅 Criado 2025-05-19
31
kyegomez/LongNet

Implementação do plug and play Attention a partir de "LongNet: Escalando Transformers para 1.000.000.000 de Tokens"

kyegomez
⭐ 715 Python 👤 kyegomez User 🕐 Atualizado 2024-01-07 📅 Criado 2023-07-06
32
JulesBelveze/time-series-autoencoder

PyTorch LSTM-Autoencoder de Atenção Dupla para Séries Temporais Multivariadas

JulesBelveze
⭐ 715 Python 👤 JulesBelveze User 🕐 Atualizado 2025-11-11 📅 Criado 2020-06-05
33
lucidrains/magvit2-pytorch

Implementação do Tokenizador MagViT2 em Pytorch

lucidrains
⭐ 664 Python 👤 lucidrains User 🕐 Atualizado 2025-01-12 📅 Criado 2023-10-10
34
LeapLabTHU/Agent-Attention

Repositório oficial de Agent Attention (ECCV2024)

LeapLabTHU
⭐ 657 Python 👤 LeapLabTHU User 🕐 Atualizado 2024-11-17 📅 Criado 2023-12-12
35
lucidrains/MEGABYTE-pytorch

Implementação de MEGABYTE, Previsão de Sequências de Milhões de Bytes com Transformers Multiescala, em Pytorch

lucidrains
⭐ 655 Python 👤 lucidrains User 🕐 Atualizado 2024-12-27 📅 Criado 2023-05-15
36
lucidrains/mmdit

Implementação de uma única camada do MMDiT, proposto no Stable Diffusion 3, em Pytorch

lucidrains
⭐ 564 Python 👤 lucidrains User 🕐 Atualizado 2026-01-18 📅 Criado 2024-05-04
37
lucidrains/iTransformer

Implementação não oficial do iTransformer - Previsão de Séries Temporais SOTA usando redes de atenção, vindo da Tsinghua / Ant group

lucidrains
⭐ 535 Python 👤 lucidrains User 🕐 Atualizado 2025-06-12 📅 Criado 2023-10-11
38
changzy00/pytorch-attention

🦖 Implementação em Pytorch de Mecanismos de Atenção populares, Vision Transformers, modelos do tipo MLP e CNNs.🔥🔥🔥

changzy00
⭐ 530 Python 👤 changzy00 User 🕐 Atualizado 2024-01-11 📅 Criado 2023-05-26
39
lucidrains/local-attention

Uma implementação de atenção local com janela para modelagem de linguagem

lucidrains
⭐ 502 Python 👤 lucidrains User 🕐 Atualizado 2025-07-16 📅 Criado 2020-07-05

Perguntas Frequentes

1

Qual é o repositório de #attention-mechanisms mais popular no GitHub?

O projeto de código aberto de #attention-mechanisms mais bem classificado no GitHub é lucidrains/PaLM-rlhf-pytorch, com 7,858 estrelas. Implementação de RLHF (Reinforcement Learning with Human Feedback) sobre a arquitetura PaLM. Basicamente ChatGPT, mas com PaLM

2

Quais linguagens de programação são mais usadas nos repositórios de #attention-mechanisms?

Entre os projetos de #attention-mechanisms mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, Jupyter Notebook, TypeScript.

3

Como é calculada a classificação dos repositórios de #attention-mechanisms?

Acompanhamos 39 repositórios ativos de código aberto marcados com #attention-mechanisms (com mais de 500 estrelas), totalizando 77,773 estrelas e uma média de 1,994 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.