Git Stars Git Stars

#inference-acceleration Repositorios

Descubre 14 repositorios activos de código abierto de GitHub etiquetados con #inference-acceleration, que acumulan 24,811 estrellas en total (una media de 1,772 estrellas por proyecto). El líder de este tema es openai/consistency_models, con 6,461 estrellas.

14
Total de Repositorios
24,811
Total de estrellas
1,772
Promedio de Estrellas/Repo
Lenguajes de programación: Python Cuda

14 repositorios en total

1
openai/consistency_models

Repositorio oficial para modelos de consistencia.

openai
⭐ 6,461 Python 👤 openai Organization 🕐 Actualizado 2024-03-22 📅 Creado 2023-02-26
2
thu-ml/SageAttention

[ICLR2025, ICML2025, NeurIPS2025 Spotlight] La Atención Cuantificada (Quantized Attention) logra una aceleración de 2 a 5 veces en comparación con FlashAttention, sin perder métricas de extremo a extremo en modelos de lenguaje, imagen y video.

thu-ml
⭐ 4,017 Cuda 👤 thu-ml Organization 🕐 Actualizado 2026-01-17 📅 Creado 2024-10-03
3
thu-ml/TurboDiffusion

TurboDiffusion: Aceleración de 100 a 200 veces para modelos de difusión de video

thu-ml
⭐ 3,870 Python 👤 thu-ml Organization 🕐 Actualizado 2026-11-04 📅 Creado 2025-12-06
4
ali-vilab/TeaCache

Timestep Embedding Dice: Es hora de almacenar en caché para el modelo de difusión de video

ali-vilab
⭐ 1,333 Python 👤 ali-vilab Organization 🕐 Actualizado 2025-06-08 📅 Creado 2024-11-27
5
meta-pytorch/segment-anything-fast

Una versión orientada a la inferencia sin conexión por lotes de segment-anything

meta-pytorch
⭐ 1,321 Python 👤 meta-pytorch Organization 🕐 Actualizado 2025-08-22 📅 Creado 2023-08-30
6
thu-ml/SpargeAttn

[ICML2025] SpargeAttention: Una atención dispersa sin entrenamiento que acelera la inferencia de cualquier modelo.

thu-ml
⭐ 1,269 Cuda 👤 thu-ml Organization 🕐 Actualizado 2026-02-25 📅 Creado 2025-02-25
7
microsoft/MInference

[NeurIPS'24 Spotlight, ICLR'25, ICML'25] Para acelerar la inferencia de LLM de contexto largo, el cálculo disperso aproximado y dinámico de la atención reduce la latencia de inferencia hasta 10 veces para el prellenado en un A100, manteniendo la precisión.

microsoft
⭐ 1,230 Python 👤 microsoft Organization 🕐 Actualizado 2026-11-18 📅 Creado 2024-05-22
8
NVlabs/Fast-dLLM

Implementación oficial de "Fast-dLLM: Aceleración sin entrenamiento de LLM de difusión habilitando la caché KV y la decodificación paralela"

NVlabs
⭐ 1,116 Python 👤 NVlabs Organization 🕐 Actualizado 2026-05-30 📅 Creado 2025-05-27
9
Alpha-VLLM/Lumina-mGPT-2.0

Lumina-mGPT 2.0: Modelado autorregresivo de imágenes independiente

Alpha-VLLM
⭐ 1,081 Python 👤 Alpha-VLLM Organization 🕐 Actualizado 2025-11-03 📅 Creado 2025-04-03
10
AlibabaResearch/SparkDiffusion

SparkDiffusion: acelera la generación de vídeo con DiT en 265× mediante sparsity, destilación, cuantización conjuntas, etc.

AlibabaResearch
⭐ 750 Python 👤 AlibabaResearch Organization 🕐 Actualizado 2026-10-26 📅 Creado 2026-09-18
11
OpenGVLab/DCNv4

[CVPR 2024] Deformable Convolution v4

OpenGVLab
⭐ 695 Python 👤 OpenGVLab Organization 🕐 Actualizado 2024-05-17 📅 Creado 2023-12-25
12
pkunlp-icler/FastV

[ECCV 2024 Presentación Oral] Código del artículo: Una imagen vale 1/2 token después de la capa 2: Aceleración de inferencia plug-and-play para grandes modelos de lenguaje visual

pkunlp-icler
⭐ 579 Python 👤 pkunlp-icler Organization 🕐 Actualizado 2025-01-04 📅 Creado 2024-03-11
13
thu-ml/SLA

SLA: Más allá de la dispersión en los transformadores de difusión mediante atención dispersa-lineal ajustable

thu-ml
⭐ 553 Python 👤 thu-ml Organization 🕐 Actualizado 2026-10-18 📅 Creado 2025-09-25
14
Generated-Computers/Locals

Ejecuta varios agentes de IA a la vez en tu Mac, hasta 3 veces más rápido.

Generated-Computers
⭐ 538 Python 👤 Generated-Computers Organization 🕐 Actualizado 2026-11-21 📅 Creado 2026-10-12

Preguntas frecuentes

1

¿Cuál es el repositorio de #inference-acceleration más popular en GitHub?

El proyecto de código abierto de #inference-acceleration mejor posicionado en GitHub es openai/consistency_models, con 6,461 estrellas. Repositorio oficial para modelos de consistencia.

2

¿Qué lenguajes de programación se utilizan más en los repositorios de #inference-acceleration?

Entre los proyectos de #inference-acceleration mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, Cuda.

3

¿Cómo se calcula la clasificación de los repositorios de #inference-acceleration?

Seguimos 14 repositorios activos de código abierto etiquetados con #inference-acceleration (500+ estrellas), que suman un total de 24,811 estrellas, con una media de 1,772 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.