Git Stars Git Stars

#inference-acceleration Dépôts

Découvrez 14 dépôts GitHub open source actifs associés à #inference-acceleration, cumulant 24,811 étoiles au total (soit une moyenne de 1,772 étoiles par projet). Le projet en tête de ce thème est openai/consistency_models, avec 6,461 étoiles.

14
Total des Dépôts
24,811
Nombre total d'étoiles
1,772
Moyenne d'Étoiles/Dépôt
Langages de programmation: Python Cuda
1
openai/consistency_models

Dépôt officiel pour les modèles de cohérence.

openai
⭐ 6,461 Python 👤 openai Organization 🕐 Mis à jour 2024-03-22 📅 Créé 2023-02-26
2
thu-ml/SageAttention

[ICLR2025, ICML2025, NeurIPS2025 Spotlight] L'attention quantifiée (Quantized Attention) atteint une accélération de 2 à 5 fois par rapport à FlashAttention, sans perte de métriques de bout en bout sur les modèles de langage, d'image et de vidéo.

thu-ml
⭐ 4,017 Cuda 👤 thu-ml Organization 🕐 Mis à jour 2026-01-17 📅 Créé 2024-10-03
3
thu-ml/TurboDiffusion

TurboDiffusion : Accélération de 100 à 200× pour les modèles de diffusion vidéo

thu-ml
⭐ 3,870 Python 👤 thu-ml Organization 🕐 Mis à jour 2026-11-04 📅 Créé 2025-12-06
4
ali-vilab/TeaCache

Les embeddings de pas de temps racontent : il est temps de mettre en cache pour le modèle de diffusion vidéo

ali-vilab
⭐ 1,333 Python 👤 ali-vilab Organization 🕐 Mis à jour 2025-06-08 📅 Créé 2024-11-27
5
meta-pytorch/segment-anything-fast

Une version orientée vers l'inférence hors ligne par lots de segment-anything

meta-pytorch
⭐ 1,321 Python 👤 meta-pytorch Organization 🕐 Mis à jour 2025-08-22 📅 Créé 2023-08-30
6
thu-ml/SpargeAttn

[ICML2025] SpargeAttention : Une attention éparse sans entraînement qui accélère l'inférence de n'importe quel modèle.

thu-ml
⭐ 1,269 Cuda 👤 thu-ml Organization 🕐 Mis à jour 2026-02-25 📅 Créé 2025-02-25
7
microsoft/MInference

[NeurIPS'24 Spotlight, ICLR'25, ICML'25] Pour accélérer l'inférence des LLM à long contexte, des calculs d'attention épars approximatifs et dynamiques réduisent la latence d'inférence jusqu'à 10 fois pour le pré-remplissage sur un A100 tout en maintenant la précision.

microsoft
⭐ 1,230 Python 👤 microsoft Organization 🕐 Mis à jour 2026-11-18 📅 Créé 2024-05-22
8
NVlabs/Fast-dLLM

Implémentation officielle de « Fast-dLLM : Accélération sans entraînement des LLM de diffusion en activant le cache KV et le décodage parallèle »

NVlabs
⭐ 1,116 Python 👤 NVlabs Organization 🕐 Mis à jour 2026-05-30 📅 Créé 2025-05-27
9
Alpha-VLLM/Lumina-mGPT-2.0

Lumina-mGPT 2.0 : Modélisation d'images autorégressive autonome

Alpha-VLLM
⭐ 1,081 Python 👤 Alpha-VLLM Organization 🕐 Mis à jour 2025-11-03 📅 Créé 2025-04-03
10
AlibabaResearch/SparkDiffusion

SparkDiffusion : accélérer la génération vidéo avec DiT de 265× grâce à la parcimonie, à la distillation, à la quantification conjointes, etc.

AlibabaResearch
⭐ 750 Python 👤 AlibabaResearch Organization 🕐 Mis à jour 2026-10-26 📅 Créé 2026-09-18
11
OpenGVLab/DCNv4

[CVPR 2024] Deformable Convolution v4

OpenGVLab
⭐ 695 Python 👤 OpenGVLab Organization 🕐 Mis à jour 2024-05-17 📅 Créé 2023-12-25
12
pkunlp-icler/FastV

[ECCV 2024 Présentation Orale] Code pour l'article : Une image vaut 1/2 jeton après la couche 2 : Accélération de l'inférence plug-and-play pour les grands modèles vision-langage

pkunlp-icler
⭐ 579 Python 👤 pkunlp-icler Organization 🕐 Mis à jour 2025-01-04 📅 Créé 2024-03-11
13
thu-ml/SLA

SLA : Au-delà de la parcimonie dans les transformeurs de diffusion grâce à une attention creuse-linéaire ajustable

thu-ml
⭐ 553 Python 👤 thu-ml Organization 🕐 Mis à jour 2026-10-18 📅 Créé 2025-09-25
14
Generated-Computers/Locals

Exécutez plusieurs agents d’IA en même temps sur votre Mac, jusqu’à 3 fois plus vite.

Generated-Computers
⭐ 538 Python 👤 Generated-Computers Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2026-10-12

Foire aux questions

1

Quel est le dépôt #inference-acceleration le plus populaire sur GitHub ?

Le projet #inference-acceleration open source le mieux classé sur GitHub est openai/consistency_models, avec 6,461 étoiles. Dépôt officiel pour les modèles de cohérence.

2

Quels langages de programmation sont les plus utilisés dans les dépôts #inference-acceleration ?

Parmi les projets #inference-acceleration les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, Cuda.

3

Comment le classement des dépôts #inference-acceleration est-il calculé ?

Nous suivons 14 dépôts open source actifs associés à #inference-acceleration (500+ étoiles), totalisant 24,811 étoiles, avec une moyenne de 1,772 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.