Git Stars Git Stars

#post-training-quantization 仓库

探索 12 个标记为 #post-training-quantization 的活跃开源 GitHub 仓库,它们累计获得 21,589 个 Star(平均每个项目 1,799 个)。该主题的领先项目是 NVIDIA/Model-Optimizer,拥有 5,646 个 Star。

12
仓库总数
21,589
总星标数
1,799
平均每个仓库星标数
编程语言: Python
1
NVIDIA/Model-Optimizer

一个统一的 SOTA 模型优化技术库,包含量化、蒸馏、剪枝、神经架构搜索、推测解码等技术。它为 TensorRT-LLM、TensorRT、vLLM 等下游部署框架压缩深度学习模型,以优化推理速度。

NVIDIA
⭐ 5,646 Python 👤 NVIDIA Organization 🕐 已更新 2026-11-21 📅 创建时间 2024-04-23
2
intel/neural-compressor

最先进(SOTA)的低位LLM量化(INT8/FP8/MXFP8/INT4/MXFP4/NVFP4)和稀疏性;在PyTorch、TensorFlow和ONNX Runtime上领先的模型压缩技术

intel
⭐ 2,733 Python 👤 intel Organization 🕐 已更新 2026-11-20 📅 创建时间 2020-07-21
3
AI-Efficiency/Awesome-Model-Quantization

精选的模型量化论文、基准测试、综述和工具集合,涵盖低比特网络、大语言模型、多模态与生成模型、矢量量化和格量化,以及高效部署。

AI-Efficiency
⭐ 2,471 👤 AI-Efficiency Organization 🕐 已更新 2026-11-16 📅 创建时间 2018-10-18
4
666DZY666/micronet

micronet,一个模型压缩和部署库。压缩:1、量化:量化感知训练(QAT),高位(>2b)(DoReFa/Quantization and Training of Neural Networks for Efficient Integer-Arithmetic-Only Inference)、低位(≤2b)/三元和二元(TWN/BNN/XNOR-Net);后训练量化(PTQ),8位(tensorrt);2、剪枝:正常、规则和组卷积通道剪枝;3、组卷积结构;4、批量归一化融合用于量化。部署:tensorrt, fp32/fp16/in

666DZY666
⭐ 2,270 Python 👤 666DZY666 User 🕐 已更新 2025-05-06 📅 创建时间 2019-12-04
5
IST-DASLab/gptq

ICLR 2023 论文“GPTQ: Accurate Post-training Quantization of Generative Pretrained Transformers”的代码。

IST-DASLab
⭐ 2,241 Python 👤 IST-DASLab Organization 🕐 已更新 2024-03-27 📅 创建时间 2022-10-19
6
mit-han-lab/smoothquant

[ICML 2023] SmoothQuant: 适用于大型语言模型的精确高效的训练后量化

mit-han-lab
⭐ 1,576 Python 👤 mit-han-lab Organization 🕐 已更新 2024-07-12 📅 创建时间 2022-11-17
8
alibaba/TinyNeuralNetwork

TinyNeuralNetwork是一个高效且易于使用的深度学习模型压缩框架。

alibaba
⭐ 881 Python 👤 alibaba Organization 🕐 已更新 2026-03-03 📅 创建时间 2021-11-02
9
nunchaku-ai/deepcompressor

大语言模型与扩散模型的模型压缩工具箱

nunchux-ai
⭐ 799 Python 👤 nunchux-ai Organization 🕐 已更新 2025-08-14 📅 创建时间 2024-05-06
10
SqueezeAILab/SqueezeLLM

[ICML 2024] SqueezeLLM: 稠密与稀疏量化

SqueezeAILab
⭐ 710 Python 👤 SqueezeAILab Organization 🕐 已更新 2024-08-13 📅 创建时间 2023-06-12
11
microsoft/VPTQ

VPTQ,一种灵活且极低比特的量化算法

microsoft
⭐ 683 Python 👤 microsoft Organization 🕐 已更新 2026-08-04 📅 创建时间 2024-08-13

常见问题解答

1

GitHub 上最受欢迎的 #post-training-quantization 仓库是什么?

GitHub 上排名第一的开源 #post-training-quantization 项目是 NVIDIA/Model-Optimizer,拥有 5,646 个 Star。一个统一的 SOTA 模型优化技术库,包含量化、蒸馏、剪枝、神经架构搜索、推测解码等技术。它为 TensorRT-LLM、TensorRT、vLLM 等下游部署框架压缩深度学习模型,以优化推理速度。

2

#post-training-quantization 仓库中最常使用的编程语言有哪些?

在 GitHub 上排名靠前的 #post-training-quantization 项目中,最常见的编程语言是 Python。

3

#post-training-quantization 仓库的排名是如何计算的?

我们跟踪了 12 个标记为 #post-training-quantization 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 21,589 个 Star,平均每个仓库拥有 1,799 个 Star。排名每日根据 GitHub API 更新。