#attention Repositórios
Descubra 29 repositórios ativos de código aberto no GitHub marcados com #attention, acumulando um total de 203,649 estrelas (uma média de 7,022 por projeto). O líder deste tópico é labmlai/annotated_deep_learning_paper_implementations, com 67,780 estrelas.
29 repositórios no total
🧑🏫 Mais de 60 implementações/tutoriais de artigos de deep learning com notas lado a lado 📝; incluindo transformers (original, xl, switch, feedback, vit, ...), otimizadores (adam, adabelief, sophia, ...), gans (cyclegan, stylegan2, ...), 🎮 aprendizado por reforço (ppo, dqn), capsnet, destilação, ... 🧠
SGLang é uma estrutura de serviço de alto desempenho para grandes modelos de linguagem e modelos multimodais.
Uma reconstrução teórica da arquitetura do Mito de Claude, construída a partir de primeiros princípios usando a literatura de pesquisa disponível.
Tutorial de Processamento de Linguagem Natural para Pesquisadores de Aprendizagem Profunda
🍀 Implementação em Pytorch de vários Mecanismos de Atenção, MLP, Re-parâmetros, Convolução, que é útil para entender melhor artigos.⭐⭐⭐
Uma implementação em PyTorch do modelo Transformer, conforme descrito em "Attention is All You Need".
Tutoriais sobre a implementação de alguns modelos de sequência para sequência (seq2seq) com PyTorch e TorchText.
Este repositório reúne principalmente notas de leitura de artigos de conferências de destaque relacionados à engenharia de algoritmos de PLN.
[ICLR2025, ICML2025, NeurIPS2025 Spotlight] O Quantized Attention (Atenção Quantizada) alcança uma aceleração de 2 a 5 vezes em comparação com o FlashAttention, sem perder métricas de ponta a ponta em modelos de linguagem, imagem e vídeo.
Este é um repositório PyTorch de YOLOv4, attentive YOLOv4 e mobilenet YOLOv4 com PASCAL VOC e COCO
Implementação em Pytorch do Transfusion, "Preveja o Próximo Token e Difunda Imagens com um Modelo Multimodal", da MetaAI
[ICML2025] SpargeAttention: Uma atenção esparsa sem treinamento que acelera qualquer inferência de modelo.
Replicação de projetos simples de Visão Computacional, incluindo atenção, classificação, detecção, detecção de pontos-chave, etc.
Construa seu próprio mecanismo de inferência LLM de alto desempenho em C++ e CUDA - uma versão menor do vLLM
O cuDNN Frontend é o ponto de entrada moderno e de código aberto da NVIDIA para a biblioteca cuDNN e uma coleção crescente de kernels de código aberto de alto desempenho.
Uma biblioteca PyTorch para tudo relacionado a Aprendizado por Reforço (RL) para Otimização Combinatória (OC)
Implementação do padrão de atenção esparsa proposto pela equipe Deepseek em seu artigo "Native Sparse Attention"
Classificação de texto multirrótulo, classificação multirrótulo, classificação de texto, multi-label, classificador, text classification, BERT, seq2seq, attention, multi-label-classification
Implementação do plug and play Attention a partir de "LongNet: Escalando Transformers para 1.000.000.000 de Tokens"
EEG Transformer 2.0. i. Transformer Convolucional para Decodificação de EEG. ii. Nova visualização - Topografia de Ativação de Classe.
Alcance a inferência do llama3 passo a passo, compreenda os conceitos centrais, domine a derivação do processo e implemente o código.
Keras beit,caformer,CMT,CoAtNet,convnext,davit,dino,efficientdet,edgenext,efficientformer,efficientnet,eva,fasternet,fastervit,fastvit,flexivit,gcvit,ghostnet,gpvit,hornet,hiera,iformer,inceptionnext,lcnet,levit,maxvit,mobilevit,moganet,nat,nfnets,pvt,swin,tinynet,tinyvit,uniformer,volo,vanillanet,yolor,yolov7,yolov8,yolox,gpt2,llama2, alias kecam
A implementação oficial em PyTorch do artigo "SAITS: Imputação baseada em Self-Attention para Séries Temporais". Um modelo de rede neural de aprendizado profundo rápido e de ponta (SOTA) para imputação eficiente de séries temporais (imputar séries temporais multivariadas incompletas contendo dados/valores ausentes NaN com aprendizado de máquina). https://arxiv.org/abs/2202.08516
Projete arquiteturas de modelos compatíveis com o hardware e migre os LLMs existentes com perda mínima de desempenho
Perguntas Frequentes
Qual é o repositório de #attention mais popular no GitHub?
O projeto de código aberto de #attention mais bem classificado no GitHub é labmlai/annotated_deep_learning_paper_implementations, com 67,780 estrelas. 🧑🏫 Mais de 60 implementações/tutoriais de artigos de deep learning com notas lado a lado 📝; incluindo transformers (original, xl, switch, feedback, vit, ...), otimizadores (adam, adabelief, sophia, ...), gans (cyclegan, stylegan2, ...), 🎮 aprendizado por reforço (ppo, dqn), capsnet, destilação, ... 🧠
Quais linguagens de programação são mais usadas nos repositórios de #attention?
Entre os projetos de #attention mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, Jupyter Notebook, Cuda, C++.
Como é calculada a classificação dos repositórios de #attention?
Acompanhamos 29 repositórios ativos de código aberto marcados com #attention (com mais de 500 estrelas), totalizando 203,649 estrelas e uma média de 7,022 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.