#pruning Репозитории
Откройте для себя 20 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #pruning, с общим числом 47,055 звёзд (в среднем 2,352 на проект). Лидером этой темы является datawhalechina/leedl-tutorial, набравший 16,879 звёзд.
Всего репозиториев: 20
《Курс глубокого обучения Ли Хунъи》(Рекомендовано профессором Ли Хунъи 👍, Apple Books 🍎), Ссылка для скачивания PDF: https://github.com/datawhalechina/leedl-tutorial/releases
[CVPR 2023] DepGraph: К любой структурной обрезке; LLMs, модели основы зрения и т.д.
AIMET — это библиотека, предоставляющая передовые методы квантования и сжатия для обученных моделей нейронных сетей.
Передовое (SOTA) низкобитное квантование LLM (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) и разреженность; ведущие методы сжатия моделей на PyTorch, TensorFlow и ONNX Runtime
micronet, библиотека для сжатия моделей и развертывания. Сжатие: 1、квантование: обучение с учетом квантования(QAT), Высокий-бит(>2b)(DoReFa/Quantization and Training of Neural Networks for Efficient Integer-Arithmetic-Only Inference)、Низкий-бит(≤2b)/Тернарный и Бинарный(TWN/BNN/XNOR-Net); пост-обученное квантование(PTQ), 8-бит(tensorrt); 2、обрезка: обычная、регулярная и групповая обрезка каналов свертки; 3、структура групповой свертки; 4、слияние пакетной нормализации для квантования. Развертывание: tensorrt, fp32/fp16/in
Простой CLI для резервного копирования, управляемый конфигурацией, для restic.
PaddleSlim — это библиотека с открытым исходным кодом для сжатия глубоких моделей и поиска архитектур.
Набор инструментов для оптимизации моделей ML для развертывания в Keras и TensorFlow, включая квантизацию и обрезку.
Эффективные методы вычислений, разработанные Huawei Noah's Ark Lab
[NeurIPS 2023] LLM-Pruner: Об структурной обрезке больших языковых моделей. Поддержка Llama-3/3.1, Llama-2, LLaMA, BLOOM, Vicuna, Baichuan, TinyLlama и др.
Мощный фреймворк для сжатия моделей для LLM и LVLMs, адаптированный для GPU NVIDIA и NPU Huawei Ascend.
TinyNeuralNetwork — это эффективный и простой в использовании фреймворк для сжатия моделей глубокого обучения.
[EMNLP 2024 & AAAI 2026] Мощный набор инструментов для сжатия больших моделей, включая LLM, VLM и модели генерации видео.
[ICLR 2024] Sheared LLaMA: Ускорение предварительного обучения языковых моделей с помощью структурированной обрезки
Резюме, Код для квантования глубоких нейронных сетей
Крутые исследовательские статьи по сжатию моделей машинного обучения, квантованию, инструментам и учебным материалам.
Часто задаваемые вопросы
Какой репозиторий по теме #pruning наиболее популярен на GitHub?
Самый высоко оценённый проект с открытым исходным кодом по теме #pruning на GitHub — datawhalechina/leedl-tutorial, набравший 16,879 звёзд. 《Курс глубокого обучения Ли Хунъи》(Рекомендовано профессором Ли Хунъи 👍, Apple Books 🍎), Ссылка для скачивания PDF: https://github.com/datawhalechina/leedl-tutorial/releases
Какие языки программирования чаще всего используются в репозиториях по теме #pruning?
Среди наиболее высоко оценённых проектов по теме #pruning на GitHub чаще всего используются языки программирования Python, Jupyter Notebook, Go.
Как рассчитывается рейтинг репозиториев по теме #pruning?
Мы отслеживаем 20 активных репозиториев с открытым исходным кодом, отмеченных тегом #pruning (500 и более звёзд), с общим числом 47,055 звёзд и в среднем 2,352 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.