#attention-mechanisms Repositorios
Descubre 39 repositorios activos de código abierto de GitHub etiquetados con #attention-mechanisms, que acumulan 77,773 estrellas en total (una media de 1,994 estrellas por proyecto). El líder de este tema es lucidrains/PaLM-rlhf-pytorch, con 7,858 estrellas.
39 repositorios en total
Implementación de RLHF (Reinforcement Learning with Human Feedback) sobre la arquitectura PaLM. Básicamente ChatGPT pero con PaLM
[ICLR 2024] Modelos de Lenguaje Eficientes en Streaming con Sumideros de Atención
Una lista finalmente completa de artículos sobre Vision Transformer/Attention, que incluye artículos, códigos y sitios web relacionados
Deformable DETR: Transformers deformables para la detección de objetos de extremo a extremo.
Resumen de artículos relacionados sobre atención visual. El código relacionado se publicará gradualmente en Jittor.
Implementación de AudioLM, un enfoque de modelado de lenguaje SOTA para la generación de audio de Google Research, en Pytorch
Implementación en PyTorch de Self-Attention Generative Adversarial Networks (SAGAN)
Implementación de Toolformer, Modelos de Lenguaje que Pueden Usar Herramientas, por MetaAI
Implementación de Make-A-Video, el nuevo generador de texto a video SOTA de Meta AI, en Pytorch
Red Convolucional de Grafos Temporal para la Predicción del Flujo de Tráfico Urbano Método
[CVPR 2025] Aprendizaje de Campos de Flujo en Atención para la Generación Controlable de Imágenes de Personas
Los módulos plug-and-play más completos para toda la red en 2025, ¡compartidos gratis! CVPR2025, AAAI2025, ICLR2025, TNNLS2025, arXiv2025...... Incluye todos los campos de la inteligencia artificial (aprendizaje automático, aprendizaje profundo, etc.), aplicable a clasificación de imágenes, detección de objetos, segmentación de instancias, segmentación semántica, segmentación panóptica, estimación de pose, segmentación de imágenes médicas, segmentación de objetos de video, recorte de imágenes, edición de imágenes, seguimiento de objetos únicos, seguimiento de objetos múltiples, re-identificación de peatones, RGBT, eliminación de ruido de imágenes, eliminación de lluvia, eliminación de niebla, eliminación de sombras, eliminación de desenfoque, superresolución, eliminación de reflejos, eliminación de patrones moiré, recuperación de imágenes, restauración de imágenes, recuperación de imágenes hiperespectrales, fusión de imágenes, coloración de imágenes, imagen de alto rango dinámico, compresión de video e imágenes, nubes de puntos 3D, detección de objetos 3D, segmentación semántica 3D, estimación de pose 3D, etc., así como otras tareas relacionadas con la IA como el procesamiento del lenguaje natural, modelos de lenguaje grandes, multimodal, etc. Actualización continua......
CVPR2023 - Activación de más píxeles en el Transformer de Super-Resolución de Imágenes TPAMI - HAT: Transformer de Atención Híbrida para la Restauración de Imágenes
LLM Transparency Tool (LLM-TT), una caja de herramientas interactiva de código abierto para analizar el funcionamiento interno de los modelos de lenguaje basados en Transformer. *Consulta la demo en* https://huggingface.co/spaces/facebook/llm-transparency-tool-demo
Modelos Fundacionales Multimodales de Vanguardia para la Comprensión de Imágenes y Videos
Implementación de Band Split Roformer, una red de atención SOTA para la separación de fuentes musicales de ByteDance AI Labs
[ICLR 2025] Samba: Modelos híbridos simples de espacio de estados para modelado de lenguaje de contexto ilimitado y eficiente
Una lista de artículos sobre algunos trabajos recientes sobre compresión de tokens para Vit y VLM
Implementación de Muse: Generación de texto a imagen a través de transformadores generativos enmascarados en Pytorch
Implementación de MeshGPT, generación de mallas SOTA usando Atención, en Pytorch
Implementación de Phenaki Video, que utiliza Mask GIT para producir videos guiados por texto de hasta 2 minutos de duración en Pytorch
Implementación de atención plug-and-play de "LongNet: Escalando Transformers a 1.000.000.000 de tokens"
Autoencoder LSTM de Doble Atención PyTorch para Series Temporales Multivariantes
Implementación de MEGABYTE, Predicción de secuencias de un millón de bytes con Transformers multiescala, en Pytorch
Implementación de una sola capa del MMDiT, propuesto en Stable Diffusion 3, en Pytorch
Implementación no oficial de iTransformer - Predicción de series temporales SOTA utilizando redes de atención, de Tsinghua / Ant group
🦖Implementación en Pytorch de populares mecanismos de atención, Vision Transformers, modelos similares a MLP y CNNs.🔥🔥🔥
Una implementación de atención local con ventanas para el modelado del lenguaje
Preguntas frecuentes
¿Cuál es el repositorio de #attention-mechanisms más popular en GitHub?
El proyecto de código abierto de #attention-mechanisms mejor posicionado en GitHub es lucidrains/PaLM-rlhf-pytorch, con 7,858 estrellas. Implementación de RLHF (Reinforcement Learning with Human Feedback) sobre la arquitectura PaLM. Básicamente ChatGPT pero con PaLM
¿Qué lenguajes de programación se utilizan más en los repositorios de #attention-mechanisms?
Entre los proyectos de #attention-mechanisms mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, Jupyter Notebook, TypeScript.
¿Cómo se calcula la clasificación de los repositorios de #attention-mechanisms?
Seguimos 39 repositorios activos de código abierto etiquetados con #attention-mechanisms (500+ estrellas), que suman un total de 77,773 estrellas, con una media de 1,994 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.