Git Stars Git Stars

#ai-inference-acceleration Dépôts

Découvrez 3 dépôts GitHub open source actifs associés à #ai-inference-acceleration, cumulant 8,097 étoiles au total (soit une moyenne de 2,699 étoiles par projet). Le projet en tête de ce thème est NVIDIA/Model-Optimizer, avec 5,646 étoiles.

3
Total des Dépôts
8,097
Nombre total d'étoiles
2,699
Moyenne d'Étoiles/Dépôt
Langages de programmation: Python C++
1
NVIDIA/Model-Optimizer

Une bibliothèque unifiée de techniques d'optimisation de modèles SOTA telles que la quantification, la distillation, l'élagage, la recherche d'architecture neuronale, le décodage spéculatif, etc. Elle compresse les modèles d'apprentissage profond pour les frameworks de déploiement en aval tels que TensorRT-LLM, TensorRT, vLLM, etc., afin d'optimiser la vitesse d'inférence.

NVIDIA
⭐ 5,646 Python 👤 NVIDIA Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2024-04-23
2
ai-dynamo/nixl

NVIDIA Inference Xfer Library (NIXL)

ai-dynamo
⭐ 1,373 C++ 👤 ai-dynamo Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2025-03-05

Foire aux questions

1

Quel est le dépôt #ai-inference-acceleration le plus populaire sur GitHub ?

Le projet #ai-inference-acceleration open source le mieux classé sur GitHub est NVIDIA/Model-Optimizer, avec 5,646 étoiles. Une bibliothèque unifiée de techniques d'optimisation de modèles SOTA telles que la quantification, la distillation, l'élagage, la recherche d'architecture neuronale, le décodage spéculatif, etc. Elle compresse les modèles d'apprentissage profond pour les frameworks de déploiement en aval tels que TensorRT-LLM, TensorRT, vLLM, etc., afin d'optimiser la vitesse d'inférence.

2

Quels langages de programmation sont les plus utilisés dans les dépôts #ai-inference-acceleration ?

Parmi les projets #ai-inference-acceleration les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, C++.

3

Comment le classement des dépôts #ai-inference-acceleration est-il calculé ?

Nous suivons 3 dépôts open source actifs associés à #ai-inference-acceleration (500+ étoiles), totalisant 8,097 étoiles, avec une moyenne de 2,699 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.