Git Stars Git Stars

#post-training-quantization Репозитории

Откройте для себя 12 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #post-training-quantization, с общим числом 21,589 звёзд (в среднем 1,799 на проект). Лидером этой темы является NVIDIA/Model-Optimizer, набравший 5,646 звёзд.

12
Всего репозиториев
21,589
Всего звезд
1,799
Среднее количество звезд на репозиторий
Языки программирования: Python

Всего репозиториев: 12

1
NVIDIA/Model-Optimizer

Единая библиотека методов оптимизации моделей SOTA, таких как квантование, дистилляция, прунинг, поиск нейронных архитектур, спекулятивное декодирование и т. д. Она сжимает модели глубокого обучения для последующих фреймворков развертывания, таких как TensorRT-LLM, TensorRT, vLLM и других, для оптимизации скорости вывода.

NVIDIA
⭐ 5,646 Python 👤 NVIDIA Organization 🕐 Обновлено 2026-11-21 📅 Создано 2024-04-23
2
intel/neural-compressor

Передовое (SOTA) низкобитное квантование LLM (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) и разреженность; ведущие методы сжатия моделей на PyTorch, TensorFlow и ONNX Runtime

intel
⭐ 2,733 Python 👤 intel Organization 🕐 Обновлено 2026-11-20 📅 Создано 2020-07-21
3
AI-Efficiency/Awesome-Model-Quantization

Подборка статей, бенчмарков, обзорных материалов и инструментов по квантованию моделей, охватывающая низкоразрядные сети, LLM, мультимодальные и генеративные модели, векторное и решёточное квантование, а также эффективное развертывание.

AI-Efficiency
⭐ 2,471 👤 AI-Efficiency Organization 🕐 Обновлено 2026-11-16 📅 Создано 2018-10-18
4
666DZY666/micronet

micronet, библиотека для сжатия моделей и развертывания. Сжатие: 1、квантование: обучение с учетом квантования(QAT), Высокий-бит(>2b)(DoReFa/Quantization and Training of Neural Networks for Efficient Integer-Arithmetic-Only Inference)、Низкий-бит(≤2b)/Тернарный и Бинарный(TWN/BNN/XNOR-Net); пост-обученное квантование(PTQ), 8-бит(tensorrt); 2、обрезка: обычная、регулярная и групповая обрезка каналов свертки; 3、структура групповой свертки; 4、слияние пакетной нормализации для квантования. Развертывание: tensorrt, fp32/fp16/in

666DZY666
⭐ 2,270 Python 👤 666DZY666 User 🕐 Обновлено 2025-05-06 📅 Создано 2019-12-04
5
IST-DASLab/gptq

Код для статьи ICLR 2023 "GPTQ: Accurate Post-training Quantization of Generative Pretrained Transformers".

IST-DASLab
⭐ 2,241 Python 👤 IST-DASLab Organization 🕐 Обновлено 2024-03-27 📅 Создано 2022-10-19
6
mit-han-lab/smoothquant

[ICML 2023] SmoothQuant: Точная и эффективная послетренировочная квантизация для больших языковых моделей

mit-han-lab
⭐ 1,576 Python 👤 mit-han-lab Organization 🕐 Обновлено 2024-07-12 📅 Создано 2022-11-17
8
alibaba/TinyNeuralNetwork

TinyNeuralNetwork — это эффективный и простой в использовании фреймворк для сжатия моделей глубокого обучения.

alibaba
⭐ 881 Python 👤 alibaba Organization 🕐 Обновлено 2026-03-03 📅 Создано 2021-11-02
9
nunchaku-ai/deepcompressor

Инструментарий сжатия моделей для больших языковых моделей и диффузионных моделей

nunchux-ai
⭐ 799 Python 👤 nunchux-ai Organization 🕐 Обновлено 2025-08-14 📅 Создано 2024-05-06
10
SqueezeAILab/SqueezeLLM

[ICML 2024] SqueezeLLM: Плотная и разреженная квантизация

SqueezeAILab
⭐ 710 Python 👤 SqueezeAILab Organization 🕐 Обновлено 2024-08-13 📅 Создано 2023-06-12
11
microsoft/VPTQ

VPTQ, гибкий и экстремально малобитный алгоритм квантования

microsoft
⭐ 683 Python 👤 microsoft Organization 🕐 Обновлено 2026-08-04 📅 Создано 2024-08-13

Часто задаваемые вопросы

1

Какой репозиторий по теме #post-training-quantization наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #post-training-quantization на GitHub — NVIDIA/Model-Optimizer, набравший 5,646 звёзд. Единая библиотека методов оптимизации моделей SOTA, таких как квантование, дистилляция, прунинг, поиск нейронных архитектур, спекулятивное декодирование и т. д. Она сжимает модели глубокого обучения для последующих фреймворков развертывания, таких как TensorRT-LLM, TensorRT, vLLM и других, для оптимизации скорости вывода.

2

Какие языки программирования чаще всего используются в репозиториях по теме #post-training-quantization?

Среди наиболее высоко оценённых проектов по теме #post-training-quantization на GitHub чаще всего используются языки программирования Python.

3

Как рассчитывается рейтинг репозиториев по теме #post-training-quantization?

Мы отслеживаем 12 активных репозиториев с открытым исходным кодом, отмеченных тегом #post-training-quantization (500 и более звёзд), с общим числом 21,589 звёзд и в среднем 1,799 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.