Git Stars Git Stars

#attention-mechanisms Repositorios

Descubre 39 repositorios activos de código abierto de GitHub etiquetados con #attention-mechanisms, que acumulan 77,773 estrellas en total (una media de 1,994 estrellas por proyecto). El líder de este tema es lucidrains/PaLM-rlhf-pytorch, con 7,858 estrellas.

39
Total de Repositorios
77,773
Total de estrellas
1,994
Promedio de Estrellas/Repo
Lenguajes de programación: Python Jupyter Notebook TypeScript

39 repositorios en total

1
lucidrains/PaLM-rlhf-pytorch

Implementación de RLHF (Reinforcement Learning with Human Feedback) sobre la arquitectura PaLM. Básicamente ChatGPT pero con PaLM

lucidrains
⭐ 7,858 Python 👤 lucidrains User 🕐 Actualizado 2026-09-20 📅 Creado 2022-12-09
2
lllyasviel/Omost

¡Tu imagen casi está lista!

lllyasviel
⭐ 7,661 Python 👤 lllyasviel User 🕐 Actualizado 2024-07-26 📅 Creado 2024-05-29
3
mit-han-lab/streaming-llm

[ICLR 2024] Modelos de Lenguaje Eficientes en Streaming con Sumideros de Atención

mit-han-lab
⭐ 7,165 Python 👤 mit-han-lab Organization 🕐 Actualizado 2024-07-11 📅 Creado 2023-09-29
5
cmhungsteve/Awesome-Transformer-Attention

Una lista finalmente completa de artículos sobre Vision Transformer/Attention, que incluye artículos, códigos y sitios web relacionados

cmhungsteve
⭐ 4,987 👤 cmhungsteve User 🕐 Actualizado 2024-07-30 📅 Creado 2021-09-15
6
fundamentalvision/Deformable-DETR

Deformable DETR: Transformers deformables para la detección de objetos de extremo a extremo.

fundamentalvision
⭐ 3,846 Python 👤 fundamentalvision Organization 🕐 Actualizado 2024-05-16 📅 Creado 2020-11-30
7
Everlyn-Labs/Everlyn-1

El primer modelo de IA de video autorregresivo abierto y fundamental.

Everlyn-Labs
⭐ 2,891 👤 Everlyn-Labs Organization 🕐 Actualizado 2026-10-07 📅 Creado 2024-10-13
8
MenghaoGuo/Awesome-Vision-Attentions

Resumen de artículos relacionados sobre atención visual. El código relacionado se publicará gradualmente en Jittor.

MenghaoGuo
⭐ 2,844 Python 👤 MenghaoGuo User 🕐 Actualizado 2024-10-20 📅 Creado 2021-09-01
9
lucidrains/audiolm-pytorch

Implementación de AudioLM, un enfoque de modelado de lenguaje SOTA para la generación de audio de Google Research, en Pytorch

lucidrains
⭐ 2,620 Python 👤 lucidrains User 🕐 Actualizado 2025-01-12 📅 Creado 2022-09-09
10
heykeetae/Self-Attention-GAN

Implementación en PyTorch de Self-Attention Generative Adversarial Networks (SAGAN)

heykeetae
⭐ 2,603 Python 👤 heykeetae User 🕐 Actualizado 2024-04-22 📅 Creado 2018-05-28
11
lucidrains/toolformer-pytorch

Implementación de Toolformer, Modelos de Lenguaje que Pueden Usar Herramientas, por MetaAI

lucidrains
⭐ 2,055 Python 👤 lucidrains User 🕐 Actualizado 2024-07-22 📅 Creado 2023-02-10
12
lucidrains/make-a-video-pytorch

Implementación de Make-A-Video, el nuevo generador de texto a video SOTA de Meta AI, en Pytorch

lucidrains
⭐ 1,983 Python 👤 lucidrains User 🕐 Actualizado 2024-05-03 📅 Creado 2022-09-29
13
lehaifeng/T-GCN

Red Convolucional de Grafos Temporal para la Predicción del Flujo de Tráfico Urbano Método

lehaifeng
⭐ 1,782 Jupyter Notebook 👤 lehaifeng User 🕐 Actualizado 2025-09-01 📅 Creado 2018-11-12
14
lucidrains/alphafold3-pytorch

Implementación de Alphafold 3 de Google Deepmind en Pytorch

lucidrains
⭐ 1,700 Python 👤 lucidrains User 🕐 Actualizado 2026-08-10 📅 Creado 2024-05-08
15
franciszzj/Leffa

[CVPR 2025] Aprendizaje de Campos de Flujo en Atención para la Generación Controlable de Imágenes de Personas

franciszzj
⭐ 1,675 Python 👤 franciszzj User 🕐 Actualizado 2025-09-12 📅 Creado 2024-12-05
16
AIFengheshu/Plug-play-modules

Los módulos plug-and-play más completos para toda la red en 2025, ¡compartidos gratis! CVPR2025, AAAI2025, ICLR2025, TNNLS2025, arXiv2025...... Incluye todos los campos de la inteligencia artificial (aprendizaje automático, aprendizaje profundo, etc.), aplicable a clasificación de imágenes, detección de objetos, segmentación de instancias, segmentación semántica, segmentación panóptica, estimación de pose, segmentación de imágenes médicas, segmentación de objetos de video, recorte de imágenes, edición de imágenes, seguimiento de objetos únicos, seguimiento de objetos múltiples, re-identificación de peatones, RGBT, eliminación de ruido de imágenes, eliminación de lluvia, eliminación de niebla, eliminación de sombras, eliminación de desenfoque, superresolución, eliminación de reflejos, eliminación de patrones moiré, recuperación de imágenes, restauración de imágenes, recuperación de imágenes hiperespectrales, fusión de imágenes, coloración de imágenes, imagen de alto rango dinámico, compresión de video e imágenes, nubes de puntos 3D, detección de objetos 3D, segmentación semántica 3D, estimación de pose 3D, etc., así como otras tareas relacionadas con la IA como el procesamiento del lenguaje natural, modelos de lenguaje grandes, multimodal, etc. Actualización continua......

AIFengheshu
⭐ 1,547 Python 👤 AIFengheshu User 🕐 Actualizado 2025-05-24 📅 Creado 2024-10-09
17
XPixelGroup/HAT

CVPR2023 - Activación de más píxeles en el Transformer de Super-Resolución de Imágenes TPAMI - HAT: Transformer de Atención Híbrida para la Restauración de Imágenes

XPixelGroup
⭐ 1,455 Python 👤 XPixelGroup Organization 🕐 Actualizado 2024-06-02 📅 Creado 2022-04-27
18
facebookresearch/llm-transparency-tool

LLM Transparency Tool (LLM-TT), una caja de herramientas interactiva de código abierto para analizar el funcionamiento interno de los modelos de lenguaje basados en Transformer. *Consulta la demo en* https://huggingface.co/spaces/facebook/llm-transparency-tool-demo

facebookresearch
⭐ 1,228 Python 👤 facebookresearch Organization 🕐 Actualizado 2024-12-03 📅 Creado 2023-12-21
19
DAMO-NLP-SG/VideoLLaMA3

Modelos Fundacionales Multimodales de Vanguardia para la Comprensión de Imágenes y Videos

DAMO-NLP-SG
⭐ 1,174 Jupyter Notebook 👤 DAMO-NLP-SG Organization 🕐 Actualizado 2025-08-14 📅 Creado 2025-01-19
20
gpu-mode/awesomeMLSys

Una lista de incorporación de sistemas ML

gpu-mode
⭐ 1,154 👤 gpu-mode Organization 🕐 Actualizado 2026-02-19 📅 Creado 2024-05-06
21
zhuzilin/ring-flash-attention

Implementación de atención en anillo con flash attention

zhuzilin
⭐ 1,054 Python 👤 zhuzilin User 🕐 Actualizado 2025-09-10 📅 Creado 2024-02-21
22
lucidrains/BS-RoFormer

Implementación de Band Split Roformer, una red de atención SOTA para la separación de fuentes musicales de ByteDance AI Labs

lucidrains
⭐ 1,030 Python 👤 lucidrains User 🕐 Actualizado 2026-11-04 📅 Creado 2023-09-09
23
microsoft/Samba

[ICLR 2025] Samba: Modelos híbridos simples de espacio de estados para modelado de lenguaje de contexto ilimitado y eficiente

microsoft
⭐ 981 Python 👤 microsoft Organization 🕐 Actualizado 2025-11-16 📅 Creado 2024-06-05
24
daixiangzi/Awesome-Token-Compress

Una lista de artículos sobre algunos trabajos recientes sobre compresión de tokens para Vit y VLM

daixiangzi
⭐ 966 👤 daixiangzi User 🕐 Actualizado 2026-11-13 📅 Creado 2024-09-06
25
lucidrains/muse-maskgit-pytorch

Implementación de Muse: Generación de texto a imagen a través de transformadores generativos enmascarados en Pytorch

lucidrains
⭐ 920 Python 👤 lucidrains User 🕐 Actualizado 2024-02-29 📅 Creado 2023-01-03
26
lucidrains/meshgpt-pytorch

Implementación de MeshGPT, generación de mallas SOTA usando Atención, en Pytorch

lucidrains
⭐ 858 Python 👤 lucidrains User 🕐 Actualizado 2024-12-24 📅 Creado 2023-11-29
27
mystorm16/FastVGGT

[ICLR 2026] FastVGGT: Transformador Rápido de Geometría Visual

mystorm16
⭐ 826 Python 👤 mystorm16 User 🕐 Actualizado 2026-01-28 📅 Creado 2025-09-01
28
lucidrains/phenaki-pytorch

Implementación de Phenaki Video, que utiliza Mask GIT para producir videos guiados por texto de hasta 2 minutos de duración en Pytorch

lucidrains
⭐ 792 Python 👤 lucidrains User 🕐 Actualizado 2024-07-29 📅 Creado 2022-09-29
29
D-Keqi/mtla

MTLA: Multi-head Temporal Latent Attention

D-Keqi
⭐ 761 Python 👤 D-Keqi User 🕐 Actualizado 2025-10-06 📅 Creado 2025-05-19
31
kyegomez/LongNet

Implementación de atención plug-and-play de "LongNet: Escalando Transformers a 1.000.000.000 de tokens"

kyegomez
⭐ 715 Python 👤 kyegomez User 🕐 Actualizado 2024-01-07 📅 Creado 2023-07-06
32
JulesBelveze/time-series-autoencoder

Autoencoder LSTM de Doble Atención PyTorch para Series Temporales Multivariantes

JulesBelveze
⭐ 715 Python 👤 JulesBelveze User 🕐 Actualizado 2025-11-11 📅 Creado 2020-06-05
33
lucidrains/magvit2-pytorch

Implementación del Tokenizador MagViT2 en Pytorch

lucidrains
⭐ 664 Python 👤 lucidrains User 🕐 Actualizado 2025-01-12 📅 Creado 2023-10-10
34
LeapLabTHU/Agent-Attention

Repositorio oficial de Agent Attention (ECCV2024)

LeapLabTHU
⭐ 657 Python 👤 LeapLabTHU User 🕐 Actualizado 2024-11-17 📅 Creado 2023-12-12
35
lucidrains/MEGABYTE-pytorch

Implementación de MEGABYTE, Predicción de secuencias de un millón de bytes con Transformers multiescala, en Pytorch

lucidrains
⭐ 655 Python 👤 lucidrains User 🕐 Actualizado 2024-12-27 📅 Creado 2023-05-15
36
lucidrains/mmdit

Implementación de una sola capa del MMDiT, propuesto en Stable Diffusion 3, en Pytorch

lucidrains
⭐ 564 Python 👤 lucidrains User 🕐 Actualizado 2026-01-18 📅 Creado 2024-05-04
37
lucidrains/iTransformer

Implementación no oficial de iTransformer - Predicción de series temporales SOTA utilizando redes de atención, de Tsinghua / Ant group

lucidrains
⭐ 535 Python 👤 lucidrains User 🕐 Actualizado 2025-06-12 📅 Creado 2023-10-11
38
changzy00/pytorch-attention

🦖Implementación en Pytorch de populares mecanismos de atención, Vision Transformers, modelos similares a MLP y CNNs.🔥🔥🔥

changzy00
⭐ 530 Python 👤 changzy00 User 🕐 Actualizado 2024-01-11 📅 Creado 2023-05-26
39
lucidrains/local-attention

Una implementación de atención local con ventanas para el modelado del lenguaje

lucidrains
⭐ 502 Python 👤 lucidrains User 🕐 Actualizado 2025-07-16 📅 Creado 2020-07-05

Preguntas frecuentes

1

¿Cuál es el repositorio de #attention-mechanisms más popular en GitHub?

El proyecto de código abierto de #attention-mechanisms mejor posicionado en GitHub es lucidrains/PaLM-rlhf-pytorch, con 7,858 estrellas. Implementación de RLHF (Reinforcement Learning with Human Feedback) sobre la arquitectura PaLM. Básicamente ChatGPT pero con PaLM

2

¿Qué lenguajes de programación se utilizan más en los repositorios de #attention-mechanisms?

Entre los proyectos de #attention-mechanisms mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, Jupyter Notebook, TypeScript.

3

¿Cómo se calcula la clasificación de los repositorios de #attention-mechanisms?

Seguimos 39 repositorios activos de código abierto etiquetados con #attention-mechanisms (500+ estrellas), que suman un total de 77,773 estrellas, con una media de 1,994 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.