#attention-mechanisms Repositórios
Descubra 39 repositórios ativos de código aberto no GitHub marcados com #attention-mechanisms, acumulando um total de 77,773 estrelas (uma média de 1,994 por projeto). O líder deste tópico é lucidrains/PaLM-rlhf-pytorch, com 7,858 estrelas.
39 repositórios no total
Implementação de RLHF (Reinforcement Learning with Human Feedback) sobre a arquitetura PaLM. Basicamente ChatGPT, mas com PaLM
[ICLR 2024] Modelos de Linguagem em Streaming Eficientes com Attention Sinks
Uma lista definitiva e abrangente de artigos sobre Vision Transformer/Attention, incluindo artigos, códigos e sites relacionados
Deformable DETR: Transformers Deformáveis para Detecção de Objetos Fim a Fim.
Resumo de artigos relacionados sobre atenção visual. O código relacionado será lançado gradualmente com base no Jittor.
Implementação em Pytorch do AudioLM, uma Abordagem de Modelagem de Linguagem SOTA (Estado da Arte) para Geração de Áudio, desenvolvida pela Google Research
Implementação em Pytorch das Redes Generativas Adversariais de Auto-Atenção (SAGAN)
Implementação do Toolformer, Modelos de Linguagem que Podem Usar Ferramentas, pela MetaAI
Implementação do Make-A-Video, novo gerador de texto para vídeo SOTA da Meta AI, em Pytorch
Rede Neuronal Convolucional Temporal para o Método de Previsão de Fluxo de Tráfego Urbano
[CVPR 2025] Aprendendo Campos de Fluxo em Atenção para Geração Controlável de Imagens de Pessoas
Módulos plug-and-play mais completos da internet em 2025, compartilhamento gratuito! CVPR2025, AAAI2025, ICLR2025, TNNLS2025, arXiv2025...... cobrindo todas as áreas da inteligência artificial (aprendizado de máquina, aprendizado profundo, etc.), aplicáveis a diversas tarefas de visão computacional e processamento de imagem, como classificação de imagens, detecção de objetos, segmentação de instâncias, segmentação semântica, segmentação panorâmica, reconhecimento de pose, segmentação de imagens médicas, segmentação de objetos em vídeo, matting de imagem, edição de imagem, rastreamento de objeto único, rastreamento de múltiplos objetos, reidentificação de pedestres, RGBT, denoising de imagem, remoção de chuva, desembaçamento, remoção de sombra, remoção de desfoque, super-resolução, remoção de reflexos, remoção de moiré, restauração de imagem, reparo de imagem, restauração de imagens hiperespectrais, fusão de imagens, colorização de imagem, imagem de alto alcance dinâmico, compressão de vídeo e imagem, nuvem de pontos 3D, detecção de objetos 3D, segmentação semântica 3D, reconhecimento de pose 3D, bem como outras tarefas relacionadas à inteligência artificial, como processamento de linguagem natural, grandes modelos de linguagem e multimodais. Em constante atualização......
CVPR2023 - Ativando Mais Pixels em Transformadores de Super-Resolução de Imagem TPAMI - HAT: Transformador de Atenção Híbrida para Restauração de Imagem
LLM Transparency Tool (LLM-TT), um kit de ferramentas interativo de código aberto para analisar o funcionamento interno de modelos de linguagem baseados em Transformer. *Confira a demonstração em* https://huggingface.co/spaces/facebook/llm-transparency-tool-demo
Modelos de Fundação Multimodais de Fronteira para Compreensão de Imagens e Vídeos
Implementação do Band Split Roformer, uma rede de atenção SOTA (State-of-the-Art) para separação de fontes musicais do ByteDance AI Labs
[ICLR 2025] Samba: Modelos de Espaço de Estados Híbridos Simples para Modelagem de Linguagem de Contexto Ilimitado Eficiente
Uma lista de artigos sobre trabalhos recentes de Compressão de Tokens para Vit e VLM
Implementação do Muse: Geração de Texto para Imagem via Transformadores Generativos Mascarados, em Pytorch
Implementação de MeshGPT, geração de malhas SOTA usando Atenção, em Pytorch
Implementação do Phenaki Video, que utiliza Mask GIT para produzir vídeos guiados por texto com até 2 minutos de duração, em Pytorch
Implementação do plug and play Attention a partir de "LongNet: Escalando Transformers para 1.000.000.000 de Tokens"
PyTorch LSTM-Autoencoder de Atenção Dupla para Séries Temporais Multivariadas
Implementação de MEGABYTE, Previsão de Sequências de Milhões de Bytes com Transformers Multiescala, em Pytorch
Implementação de uma única camada do MMDiT, proposto no Stable Diffusion 3, em Pytorch
Implementação não oficial do iTransformer - Previsão de Séries Temporais SOTA usando redes de atenção, vindo da Tsinghua / Ant group
🦖 Implementação em Pytorch de Mecanismos de Atenção populares, Vision Transformers, modelos do tipo MLP e CNNs.🔥🔥🔥
Uma implementação de atenção local com janela para modelagem de linguagem
Perguntas Frequentes
Qual é o repositório de #attention-mechanisms mais popular no GitHub?
O projeto de código aberto de #attention-mechanisms mais bem classificado no GitHub é lucidrains/PaLM-rlhf-pytorch, com 7,858 estrelas. Implementação de RLHF (Reinforcement Learning with Human Feedback) sobre a arquitetura PaLM. Basicamente ChatGPT, mas com PaLM
Quais linguagens de programação são mais usadas nos repositórios de #attention-mechanisms?
Entre os projetos de #attention-mechanisms mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, Jupyter Notebook, TypeScript.
Como é calculada a classificação dos repositórios de #attention-mechanisms?
Acompanhamos 39 repositórios ativos de código aberto marcados com #attention-mechanisms (com mais de 500 estrelas), totalizando 77,773 estrelas e uma média de 1,994 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.