Git Stars Git Stars

#post-training-quantization Repositories

Entdecke 12 aktive Open-Source-GitHub-Repositories, die mit #post-training-quantization getaggt sind und insgesamt 21,589 Sterne gesammelt haben (durchschnittlich 1,799 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist NVIDIA/Model-Optimizer mit 5,646 Sternen.

12
Gesamtzahl der Repositories
21,589
Gesamtanzahl der Sterne
1,799
Durchschnittliche Sterne/Repo
Programmiersprachen: Python

Insgesamt 12 Repositories

1
NVIDIA/Model-Optimizer

Eine einheitliche Bibliothek für SOTA-Modelloptimierungstechniken wie Quantisierung, Destillation, Pruning, neuronale Architektursuche, spekulative Dekodierung usw. Sie komprimiert Deep-Learning-Modelle für nachgelagerte Bereitstellungs-Frameworks wie TensorRT-LLM, TensorRT, vLLM usw., um die Inferenzgeschwindigkeit zu optimieren.

NVIDIA
⭐ 5,646 Python 👤 NVIDIA Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2024-04-23
2
intel/neural-compressor

SOTA Low-Bit-LLM-Quantisierung (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) und Sparsity; führende Modellkomprimierungstechniken auf PyTorch, TensorFlow und ONNX Runtime

intel
⭐ 2,733 Python 👤 intel Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2020-07-21
3
AI-Efficiency/Awesome-Model-Quantization

Eine kuratierte Sammlung von Fachartikeln, Benchmarks, Übersichtsarbeiten und Tools zur Modellquantisierung, die Low-Bit-Netzwerke, LLMs, multimodale und generative Modelle, Vektor- und Gitterquantisierung sowie eine effiziente Bereitstellung abdeckt.

AI-Efficiency
⭐ 2,471 👤 AI-Efficiency Organization 🕐 Aktualisiert 2026-11-16 📅 Erstellt 2018-10-18
4
666DZY666/micronet

micronet, eine Bibliothek für Modellkompression und Deployment. Kompression: 1、Quantisierung: Quantisierungs-bewusstes Training(QAT), High-Bit(>2b)(DoReFa/Quantization and Training of Neural Networks for Efficient Integer-Arithmetic-Only Inference)、Low-Bit(≤2b)/Ternary and Binary(TWN/BNN/XNOR-Net); Post-Training-Quantisierung(PTQ), 8-Bit(tensorrt); 2、Pruning: normal、regular and group convolutional channel pruning; 3、Gruppenkonvolutionsstruktur; 4、Batch-Normalisierungs-Fusion für Quantisierung. Deployment: tensorrt, fp32/fp16/in

666DZY666
⭐ 2,270 Python 👤 666DZY666 User 🕐 Aktualisiert 2025-05-06 📅 Erstellt 2019-12-04
5
IST-DASLab/gptq

Code für das ICLR 2023-Paper "GPTQ: Accurate Post-training Quantization of Generative Pretrained Transformers".

IST-DASLab
⭐ 2,241 Python 👤 IST-DASLab Organization 🕐 Aktualisiert 2024-03-27 📅 Erstellt 2022-10-19
6
mit-han-lab/smoothquant

[ICML 2023] SmoothQuant: Genauer und effizienter Post-Training-Quantisierung für große Sprachmodelle

mit-han-lab
⭐ 1,576 Python 👤 mit-han-lab Organization 🕐 Aktualisiert 2024-07-12 📅 Erstellt 2022-11-17
8
alibaba/TinyNeuralNetwork

TinyNeuralNetwork ist ein effizientes und einfach zu bedienendes Framework für die Komprimierung von Deep-Learning-Modellen.

alibaba
⭐ 881 Python 👤 alibaba Organization 🕐 Aktualisiert 2026-03-03 📅 Erstellt 2021-11-02
9
nunchaku-ai/deepcompressor

Modelkomprimierungs-Toolbox für große Sprachmodelle und Diffusionsmodelle

nunchux-ai
⭐ 799 Python 👤 nunchux-ai Organization 🕐 Aktualisiert 2025-08-14 📅 Erstellt 2024-05-06
10
SqueezeAILab/SqueezeLLM

[ICML 2024] SqueezeLLM: Dichte und spärliche Quantisierung

SqueezeAILab
⭐ 710 Python 👤 SqueezeAILab Organization 🕐 Aktualisiert 2024-08-13 📅 Erstellt 2023-06-12
11
microsoft/VPTQ

VPTQ, ein flexibler und extrem Low-Bit-Quantisierungsalgorithmus

microsoft
⭐ 683 Python 👤 microsoft Organization 🕐 Aktualisiert 2026-08-04 📅 Erstellt 2024-08-13

Häufig gestellte Fragen

1

Welches ist das beliebteste #post-training-quantization-Repository auf GitHub?

Das am höchsten eingestufte Open-Source-#post-training-quantization-Projekt auf GitHub ist NVIDIA/Model-Optimizer mit 5,646 Sternen. Eine einheitliche Bibliothek für SOTA-Modelloptimierungstechniken wie Quantisierung, Destillation, Pruning, neuronale Architektursuche, spekulative Dekodierung usw. Sie komprimiert Deep-Learning-Modelle für nachgelagerte Bereitstellungs-Frameworks wie TensorRT-LLM, TensorRT, vLLM usw., um die Inferenzgeschwindigkeit zu optimieren.

2

Welche Programmiersprachen werden in #post-training-quantization-Repositories am häufigsten verwendet?

Unter den am höchsten eingestuften #post-training-quantization-Projekten auf GitHub sind Python die am häufigsten verwendeten Programmiersprachen.

3

Wie wird das Ranking der #post-training-quantization-Repositories berechnet?

Wir verfolgen 12 aktive Open-Source-Repositories, die mit #post-training-quantization getaggt sind (500+ Sterne), mit insgesamt 21,589 Sternen und durchschnittlich 1,799 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.