Git Stars Git Stars

#post-training-quantization Dépôts

Découvrez 12 dépôts GitHub open source actifs associés à #post-training-quantization, cumulant 21,589 étoiles au total (soit une moyenne de 1,799 étoiles par projet). Le projet en tête de ce thème est NVIDIA/Model-Optimizer, avec 5,646 étoiles.

12
Total des Dépôts
21,589
Nombre total d'étoiles
1,799
Moyenne d'Étoiles/Dépôt
Langages de programmation: Python
1
NVIDIA/Model-Optimizer

Une bibliothèque unifiée de techniques d'optimisation de modèles SOTA telles que la quantification, la distillation, l'élagage, la recherche d'architecture neuronale, le décodage spéculatif, etc. Elle compresse les modèles d'apprentissage profond pour les frameworks de déploiement en aval tels que TensorRT-LLM, TensorRT, vLLM, etc., afin d'optimiser la vitesse d'inférence.

NVIDIA
⭐ 5,646 Python 👤 NVIDIA Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2024-04-23
2
intel/neural-compressor

Quantification LLM SOTA à faible nombre de bits (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) et sparsité ; techniques de compression de modèles de pointe sur PyTorch, TensorFlow et ONNX Runtime

intel
⭐ 2,733 Python 👤 intel Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2020-07-21
3
AI-Efficiency/Awesome-Model-Quantization

Une collection organisée d’articles, de benchmarks, de travaux de synthèse et d’outils sur la quantification des modèles, couvrant les réseaux à faible nombre de bits, les LLM, les modèles multimodaux et génératifs, la quantification vectorielle et par réseau, ainsi que le déploiement efficace.

AI-Efficiency
⭐ 2,471 👤 AI-Efficiency Organization 🕐 Mis à jour 2026-11-16 📅 Créé 2018-10-18
4
666DZY666/micronet

micronet, une bibliothèque de compression et de déploiement de modèles. Compression : 1、quantification : entraînement conscient de la quantification(QAT), High-Bit(>2b)(DoReFa/Quantization and Training of Neural Networks for Efficient Integer-Arithmetic-Only Inference)、Low-Bit(≤2b)/Ternaire et Binaire(TWN/BNN/XNOR-Net) ; quantification post-entraînement(PTQ), 8-bit(tensorrt) ; 2、élagage : normal、régulier et élagage de canaux convolutifs en groupe ; 3、structure de convolution en groupe ; 4、fusion de normalisation par lots pour la quantification. Déploiement : tensorrt, fp32/fp16/in

666DZY666
⭐ 2,270 Python 👤 666DZY666 User 🕐 Mis à jour 2025-05-06 📅 Créé 2019-12-04
5
IST-DASLab/gptq

Code pour le document ICLR 2023 "GPTQ: Accurate Post-training Quantization of Generative Pretrained Transformers".

IST-DASLab
⭐ 2,241 Python 👤 IST-DASLab Organization 🕐 Mis à jour 2024-03-27 📅 Créé 2022-10-19
6
mit-han-lab/smoothquant

[ICML 2023] SmoothQuant : Quantification post-entraînement précise et efficace pour les grands modèles linguistiques

mit-han-lab
⭐ 1,576 Python 👤 mit-han-lab Organization 🕐 Mis à jour 2024-07-12 📅 Créé 2022-11-17
8
alibaba/TinyNeuralNetwork

TinyNeuralNetwork est un framework efficace et facile à utiliser pour la compression de modèles d'apprentissage profond.

alibaba
⭐ 881 Python 👤 alibaba Organization 🕐 Mis à jour 2026-03-03 📅 Créé 2021-11-02
9
nunchaku-ai/deepcompressor

Boîte à outils de compression de modèles pour les grands modèles linguistiques et les modèles de diffusion

nunchux-ai
⭐ 799 Python 👤 nunchux-ai Organization 🕐 Mis à jour 2025-08-14 📅 Créé 2024-05-06
10
SqueezeAILab/SqueezeLLM

[ICML 2024] SqueezeLLM : Quantification dense et parcimonieuse

SqueezeAILab
⭐ 710 Python 👤 SqueezeAILab Organization 🕐 Mis à jour 2024-08-13 📅 Créé 2023-06-12
11
microsoft/VPTQ

VPTQ, un algorithme de quantification flexible et à très faible nombre de bits

microsoft
⭐ 683 Python 👤 microsoft Organization 🕐 Mis à jour 2026-08-04 📅 Créé 2024-08-13

Foire aux questions

1

Quel est le dépôt #post-training-quantization le plus populaire sur GitHub ?

Le projet #post-training-quantization open source le mieux classé sur GitHub est NVIDIA/Model-Optimizer, avec 5,646 étoiles. Une bibliothèque unifiée de techniques d'optimisation de modèles SOTA telles que la quantification, la distillation, l'élagage, la recherche d'architecture neuronale, le décodage spéculatif, etc. Elle compresse les modèles d'apprentissage profond pour les frameworks de déploiement en aval tels que TensorRT-LLM, TensorRT, vLLM, etc., afin d'optimiser la vitesse d'inférence.

2

Quels langages de programmation sont les plus utilisés dans les dépôts #post-training-quantization ?

Parmi les projets #post-training-quantization les mieux classés sur GitHub, les langages de programmation les plus courants sont Python.

3

Comment le classement des dépôts #post-training-quantization est-il calculé ?

Nous suivons 12 dépôts open source actifs associés à #post-training-quantization (500+ étoiles), totalisant 21,589 étoiles, avec une moyenne de 1,799 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.