Git Stars Git Stars

#flash-attention Repositorios

Descubre 48 repositorios activos de código abierto de GitHub etiquetados con #flash-attention, que acumulan 156,291 estrellas en total (una media de 3,256 estrellas por proyecto). El líder de este tema es deepseek-ai/DeepSeek-OCR, con 24,180 estrellas.

48
Total de Repositorios
156,291
Total de estrellas
3,256
Promedio de Estrellas/Repo

48 repositorios en total

1
deepseek-ai/DeepSeek-OCR

Compresión óptica de contextos

deepseek-ai
⭐ 24,180 Python 👤 deepseek-ai Organization 🕐 Actualizado 2026-01-27 📅 Creado 2025-10-17
2
QwenLM/Qwen

El repositorio oficial de Qwen (通义千问), el modelo de lenguaje grande preentrenado y de chat propuesto por Alibaba Cloud.

QwenLM
⭐ 22,063 Python 👤 QwenLM Organization 🕐 Actualizado 2026-03-05 📅 Creado 2023-08-03
3
xlite-dev/LeetCUDA

Un libro de código abierto con apuntes de aprendizaje sobre CUDA moderno para principiantes: BF16/FP8/FP4, HGEMM, CuTe, Flash-Attention, etc.

xlite-dev
⭐ 12,208 TeX 👤 xlite-dev Organization 🕐 Actualizado 2026-11-20 📅 Creado 2022-12-17
5
InternLM/InternLM

Lanzamiento oficial de la serie InternLM (InternLM, InternLM2, InternLM2.5, InternLM3).

InternLM
⭐ 7,280 Python 👤 InternLM Organization 🕐 Actualizado 2025-10-30 📅 Creado 2023-07-06
6
ymcui/Chinese-LLaMA-Alpaca-2

Modelos grandes chinos LLaMA-2 y Alpaca-2 Fase II + modelos de contexto ultra largo de 64K (Chinese LLaMA-2 & Alpaca-2 LLMs with 64K long context models)

ymcui
⭐ 7,098 Python 👤 ymcui User 🕐 Actualizado 2026-04-19 📅 Creado 2023-07-18
7
karminski/one-small-step

Este es un sencillo proyecto de tutorial técnico科普, centrado principalmente en explicar conceptos y principios tecnológicos interesantes y de vanguardia. Cada artículo se esfuerza por completarse en 5 minutos de lectura.

karminski
⭐ 7,006 Python 👤 karminski User 🕐 Actualizado 2026-03-08 📅 Creado 2025-01-16
9
xlite-dev/Awesome-LLM-Inference

📚Una lista seleccionada de increíbles artículos sobre inferencia LLM/VLM con códigos: Flash-Attention, Paged-Attention, WINT8/4, Paralelismo, etc.🎉

xlite-dev
⭐ 5,565 Python 👤 xlite-dev Organization 🕐 Actualizado 2026-10-20 📅 Creado 2023-08-27
10
turboderp-org/exllamav2

Una biblioteca de inferencia rápida para ejecutar LLM localmente en GPU modernas de clase de consumo

turboderp-org
⭐ 4,653 Python 👤 turboderp-org Organization 🕐 Actualizado 2026-03-04 📅 Creado 2023-08-30
11
QwenLM/Qwen3-ASR

Qwen3-ASR es una serie de modelos ASR de código abierto desarrollada por el equipo Qwen de Alibaba Cloud, que admite reconocimiento estable de voz/música/canción multilingüe, detección de idioma y predicción de marca de tiempo.

QwenLM
⭐ 3,933 Python 👤 QwenLM Organization 🕐 Actualizado 2026-06-26 📅 Creado 2026-01-28
12
HazyResearch/ThunderKittens

Primitivas de teselas para kernels rápidos

HazyResearch
⭐ 3,805 Cuda 👤 HazyResearch Organization 🕐 Actualizado 2026-09-12 📅 Creado 2024-03-04
13
guandeh17/Self-Forcing

Código base oficial para "Self Forcing: Bridging Training and Inference in Autoregressive Video Diffusion" (NeurIPS 2025 Spotlight)

guandeh17
⭐ 3,511 Python 👤 guandeh17 User 🕐 Actualizado 2025-09-12 📅 Creado 2025-06-09
14
ikawrakow/ik_llama.cpp

Fork de llama.cpp con cuantificaciones SOTA adicionales y rendimiento mejorado

ikawrakow
⭐ 3,411 C++ 👤 ikawrakow User 🕐 Actualizado 2026-11-21 📅 Creado 2024-06-27
16
MoonshotAI/MoBA

MoBA: Mezcla de Atención por Bloques para LLM de Contexto Largo

MoonshotAI
⭐ 2,122 Python 👤 MoonshotAI Organization 🕐 Actualizado 2025-04-03 📅 Creado 2025-02-17
17
Ucas-HaoranWei/Vary

[ECCV 2024] Implementación oficial del código de Vary: Scaling Up the Vision Vocabulary of Large Vision Language Models.

Ucas-HaoranWei
⭐ 1,888 Python 👤 Ucas-HaoranWei User 🕐 Actualizado 2024-12-30 📅 Creado 2023-12-07
19
allenai/Olmo-core

Bloques de construcción de PyTorch para el ecosistema OLMo

allenai
⭐ 1,810 Python 👤 allenai Organization 🕐 Actualizado 2026-11-21 📅 Creado 2024-03-23
20
mjun0812/flash-attention-prebuild-wheels

Proporcionar ruedas de paquetes precompilados de flash-attention 2 y 3 en Linux y Windows usando GitHub Actions

mjun0812
⭐ 1,798 Python 👤 mjun0812 User 🕐 Actualizado 2026-11-21 📅 Creado 2024-10-26
21
Soul-AILab/SoulX-FlashTalk

SoulX-FlashTalk es el primer modelo 14B en lograr una latencia de inicio subsegundo (0.87s) mientras mantiene un rendimiento en tiempo real de 32 FPS en un nodo 8xH800.

Soul-AILab
⭐ 1,572 Python 👤 Soul-AILab Organization 🕐 Actualizado 2026-07-30 📅 Creado 2025-12-25
23
X-Square-Robot/wall-x

Construcción de robots de propósito general basados en modelos fundacionales corporizados

X-Square-Robot
⭐ 1,337 Python 👤 X-Square-Robot Organization 🕐 Actualizado 2026-09-18 📅 Creado 2025-09-04
24
weiruihhh/cs336_note_and_hw

Registrar mis apuntes y tareas mientras estudio en cs336.

weiruihhh
⭐ 1,305 Python 👤 weiruihhh User 🕐 Actualizado 2026-10-10 📅 Creado 2025-06-01
25
zhuzilin/ring-flash-attention

Implementación de atención en anillo con flash attention

zhuzilin
⭐ 1,054 Python 👤 zhuzilin User 🕐 Actualizado 2025-09-10 📅 Creado 2024-02-21
26
tspeterkim/flash-attention-minimal

Flash Attention en ~100 líneas de CUDA (solo paso hacia adelante)

tspeterkim
⭐ 1,036 Cuda 👤 tspeterkim User 🕐 Actualizado 2024-12-30 📅 Creado 2024-03-07
27
NVIDIA/cudnn-frontend

cuDNN Frontend es el punto de entrada moderno y de código abierto de NVIDIA a la biblioteca cuDNN y a una creciente colección de kernels de código abierto de alto rendimiento.

NVIDIA
⭐ 1,008 Cuda 👤 NVIDIA Organization 🕐 Actualizado 2026-11-21 📅 Creado 2021-01-22
28
SandAI-org/MagiAttention

Atención distribuida hacia la escalabilidad lineal para el entrenamiento de contextos ultralargos y datos heterogéneos

SandAI-org
⭐ 975 Python 👤 SandAI-org Organization 🕐 Actualizado 2026-11-21 📅 Creado 2025-04-20
29
Alpha-VLLM/Lumina-Image-2.0

Lumina-Image 2.0: Un framework unificado y eficiente para la generación de imágenes

Alpha-VLLM
⭐ 904 Python 👤 Alpha-VLLM Organization 🕐 Actualizado 2026-05-22 📅 Creado 2025-01-25
30
TRI-ML/prismatic-vlms

Una base de código flexible y eficiente para entrenar modelos de lenguaje visualmente condicionados (VLM)

TRI-ML
⭐ 894 Python 👤 TRI-ML Organization 🕐 Actualizado 2024-07-04 📅 Creado 2024-02-13
31
RUCAIBox/LLMBox

Una biblioteca completa para implementar LLM, que incluye un pipeline de entrenamiento unificado y una evaluación completa del modelo.

RUCAIBox
⭐ 849 Python 👤 RUCAIBox Organization 🕐 Actualizado 2025-06-16 📅 Creado 2023-10-25
32
NVlabs/rcm

rCM y Causal-rCM: Algoritmos/infraestructuras líderes y unificados para la destilación de difusión de video bidireccional/autorregresiva a gran escala

NVlabs
⭐ 832 Python 👤 NVlabs Organization 🕐 Actualizado 2026-06-25 📅 Creado 2025-10-09
35
exiawsh/StreamPETR

[ICCV 2023] StreamPETR: Exploración del modelado temporal centrado en objetos para una detección eficiente de objetos 3D multi-vista

exiawsh
⭐ 754 Python 👤 exiawsh User 🕐 Actualizado 2024-06-26 📅 Creado 2023-03-21
37
jzhang38/EasyContext

Optimización de la memoria y recetas de entrenamiento para extrapolar la longitud del contexto de los modelos de lenguaje a 1 millón de tokens, con un hardware mínimo.

jzhang38
⭐ 751 Python 👤 jzhang38 User 🕐 Actualizado 2024-09-27 📅 Creado 2024-04-05
38
HKUSTDial/flash-sparse-attention

Atención dispersa entrenable, rápida y eficiente en memoria

HKUSTDial
⭐ 750 Python 👤 HKUSTDial Organization 🕐 Actualizado 2026-11-20 📅 Creado 2025-05-12
40
yihao-meng/HoloCine

[CVPR 2026 Destacado] Implementaciones Oficiales para el Artículo - HoloCine: Generación Holística de Narrativas de Video Largo Multi-Shot Cinematográficas

yihao-meng
⭐ 707 Python 👤 yihao-meng User 🕐 Actualizado 2025-11-26 📅 Creado 2025-10-22
41
penghao-wu/vstar

Implementación en PyTorch de "V* : Guided Visual Search as a Core Mechanism in Multimodal LLMs"

penghao-wu
⭐ 684 Python 👤 penghao-wu User 🕐 Actualizado 2024-01-07 📅 Creado 2023-12-15
42
louaaron/Score-Entropy-Discrete-Diffusion

[ICML 2024 Mejor Artículo] Modelado de difusión discreta estimando las proporciones de la distribución de datos (https://arxiv.org/abs/2310.16834)

louaaron
⭐ 681 Python 👤 louaaron User 🕐 Actualizado 2024-02-29 📅 Creado 2024-02-21
43
Tencent/WeDLM

WeDLM: El modelo de lenguaje de difusión más rápido con atención causal estándar y compatibilidad nativa con la caché KV, que ofrece aceleraciones reales sobre las líneas base optimizadas con vLLM.

Tencent
⭐ 659 Python 👤 Tencent Organization 🕐 Actualizado 2026-03-03 📅 Creado 2025-12-24
44
zengxiao-he/tessera

De maestro a mosaicos — un motor de destilación y servicio de LLM desde cero: kernels personalizados de Triton/CUDA, destilación FSDP, procesamiento por lotes continuo con KV paginado, decodificación especulativa, una puerta de enlace en Rust, un oráculo JAX y herramientas de interpretabilidad.

zengxiao-he
⭐ 556 Python 👤 zengxiao-he User 🕐 Actualizado 2026-10-09 📅 Creado 2026-06-05
46
mit-han-lab/duo-attention

[ICLR 2025] DuoAttention: Inferencia eficiente de LLM de contexto largo con cabezales de recuperación y transmisión

mit-han-lab
⭐ 541 Python 👤 mit-han-lab Organization 🕐 Actualizado 2025-02-10 📅 Creado 2024-10-15
47
DachengLi1/LongChat

Repositorio oficial de LongChat y LongEval

DachengLi1
⭐ 533 Python 👤 DachengLi1 User 🕐 Actualizado 2024-05-24 📅 Creado 2023-04-21
48
bofenghuang/vigogne

Modelos franceses de seguimiento de instrucciones y de chat

bofenghuang
⭐ 506 Jupyter Notebook 👤 bofenghuang User 🕐 Actualizado 2024-12-05 📅 Creado 2023-03-24

Preguntas frecuentes

1

¿Cuál es el repositorio de #flash-attention más popular en GitHub?

El proyecto de código abierto de #flash-attention mejor posicionado en GitHub es deepseek-ai/DeepSeek-OCR, con 24,180 estrellas. Compresión óptica de contextos

2

¿Qué lenguajes de programación se utilizan más en los repositorios de #flash-attention?

Entre los proyectos de #flash-attention mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, Cuda, TeX, C++.

3

¿Cómo se calcula la clasificación de los repositorios de #flash-attention?

Seguimos 48 repositorios activos de código abierto etiquetados con #flash-attention (500+ estrellas), que suman un total de 156,291 estrellas, con una media de 3,256 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.