Git Stars Git Stars

#post-training-quantization Repository

Scopri 12 repository GitHub open source attivi contrassegnati con #post-training-quantization, che raccolgono un totale di 21,589 stelle (con una media di 1,799 stelle per progetto). Il progetto leader di questo argomento è NVIDIA/Model-Optimizer, con 5,646 stelle.

12
Totale Repository
21,589
Totale stelle
1,799
Media Stelle/Repo
Linguaggi di programmazione: Python

12 repository in totale

1
NVIDIA/Model-Optimizer

Una libreria unificata di tecniche di ottimizzazione dei modelli SOTA come quantizzazione, distillazione, pruning, ricerca di architetture neurali, decodifica speculativa, ecc. Comprime i modelli di deep learning per framework di distribuzione a valle come TensorRT-LLM, TensorRT, vLLM, ecc., per ottimizzare la velocità di inferenza.

NVIDIA
⭐ 5,646 Python 👤 NVIDIA Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2024-04-23
2
intel/neural-compressor

Quantizzazione LLM a basso bit SOTA (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) e sparsità; tecniche leader di compressione del modello su PyTorch, TensorFlow e ONNX Runtime

intel
⭐ 2,733 Python 👤 intel Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2020-07-21
3
AI-Efficiency/Awesome-Model-Quantization

Una raccolta curata di articoli, benchmark, rassegne e strumenti sulla quantizzazione dei modelli, che comprende reti a pochi bit, LLM, modelli multimodali e generativi, quantizzazione vettoriale e reticolare, nonché il deployment efficiente.

AI-Efficiency
⭐ 2,471 👤 AI-Efficiency Organization 🕐 Aggiornato 2026-11-16 📅 Creato 2018-10-18
4
666DZY666/micronet

micronet, una libreria per compressione e deployment di modelli. Compressione: 1、Quantizzazione: training-aware quantization(QAT), High-Bit(>2b)(DoReFa/Quantization and Training of Neural Networks for Efficient Integer-Arithmetic-Only Inference)、Low-Bit(≤2b)/Ternario e Binario(TWN/BNN/XNOR-Net); quantizzazione post-training(PTQ), 8-bit(tensorrt); 2、potatura: normale、regolare e potatura di canali convoluzionali di gruppo; 3、struttura di convoluzione di gruppo; 4、fusione di normalizzazione batch per quantizzazione. Deployment: tensorrt, fp32/fp16/in

666DZY666
⭐ 2,270 Python 👤 666DZY666 User 🕐 Aggiornato 2025-05-06 📅 Creato 2019-12-04
5
IST-DASLab/gptq

Codice per l'articolo ICLR 2023 "GPTQ: Accurate Post-training Quantization of Generative Pretrained Transformers".

IST-DASLab
⭐ 2,241 Python 👤 IST-DASLab Organization 🕐 Aggiornato 2024-03-27 📅 Creato 2022-10-19
6
mit-han-lab/smoothquant

[ICML 2023] SmoothQuant: Quantizzazione Post-Training Accurata ed Efficiente per Grandi Modelli Linguistici

mit-han-lab
⭐ 1,576 Python 👤 mit-han-lab Organization 🕐 Aggiornato 2024-07-12 📅 Creato 2022-11-17
8
alibaba/TinyNeuralNetwork

TinyNeuralNetwork è un framework efficiente e facile da usare per la compressione di modelli di deep learning.

alibaba
⭐ 881 Python 👤 alibaba Organization 🕐 Aggiornato 2026-03-03 📅 Creato 2021-11-02
9
nunchaku-ai/deepcompressor

Toolbox per la Compressione di Modelli per Grandi Modelli Linguistici e Modelli di Diffusione

nunchux-ai
⭐ 799 Python 👤 nunchux-ai Organization 🕐 Aggiornato 2025-08-14 📅 Creato 2024-05-06
10
SqueezeAILab/SqueezeLLM

[ICML 2024] SqueezeLLM: Quantizzazione densa e sparsa

SqueezeAILab
⭐ 710 Python 👤 SqueezeAILab Organization 🕐 Aggiornato 2024-08-13 📅 Creato 2023-06-12
11
microsoft/VPTQ

VPTQ, un algoritmo di quantizzazione flessibile ed estremamente a bassi bit

microsoft
⭐ 683 Python 👤 microsoft Organization 🕐 Aggiornato 2026-08-04 📅 Creato 2024-08-13

Domande frequenti

1

Qual è il repository #post-training-quantization più popolare su GitHub?

Il progetto open source #post-training-quantization più alto in classifica su GitHub è NVIDIA/Model-Optimizer, con 5,646 stelle. Una libreria unificata di tecniche di ottimizzazione dei modelli SOTA come quantizzazione, distillazione, pruning, ricerca di architetture neurali, decodifica speculativa, ecc. Comprime i modelli di deep learning per framework di distribuzione a valle come TensorRT-LLM, TensorRT, vLLM, ecc., per ottimizzare la velocità di inferenza.

2

Quali linguaggi di programmazione sono più utilizzati nei repository #post-training-quantization?

Tra i progetti #post-training-quantization più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python.

3

Come viene calcolata la classifica dei repository #post-training-quantization?

Monitoriamo 12 repository open source attivi contrassegnati con #post-training-quantization (500+ stelle), per un totale di 21,589 stelle e una media di 1,799 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.