Git Stars Git Stars

#model-quantization Репозитории

Откройте для себя 59 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #model-quantization, с общим числом 217,873 звёзд (в среднем 3,692 на проект). Лидером этой темы является zai-org/ChatGLM-6B, набравший 41,224 звёзд.

59
Всего репозиториев
217,873
Всего звезд
3,692
Среднее количество звезд на репозиторий

Всего репозиториев: 59

1
zai-org/ChatGLM-6B

ChatGLM-6B: Открытая двуязычная диалоговая языковая модель | Открытая двуязычная диалоговая языковая модель

zai-org
⭐ 41,224 Python 👤 zai-org Organization 🕐 Обновлено 2024-06-27 📅 Создано 2023-03-13
2
karpathy/llama2.c

Вывод Llama 2 в одном файле на чистом C

karpathy
⭐ 19,062 C 👤 karpathy User 🕐 Обновлено 2024-08-06 📅 Создано 2023-07-23
3
apple-aiml-research/ml-stable-diffusion

Stable Diffusion с Core ML на Apple Silicon

apple-aiml-research
⭐ 17,962 Python 👤 apple-aiml-research Organization 🕐 Обновлено 2026-09-11 📅 Создано 2022-11-16
4
zai-org/ChatGLM3

Серия ChatGLM3: Открытые двуязычные чат-модели LLM | Открытые двуязычные чат-модели LLM

zai-org
⭐ 13,680 Python 👤 zai-org Organization 🕐 Обновлено 2025-01-13 📅 Создано 2023-10-26
6
OpenBMB/MiniCPM

MiniCPM5: передовые LLM на устройстве — маленькие, но мощные.

OpenBMB
⭐ 11,898 Jupyter Notebook 👤 OpenBMB Organization 🕐 Обновлено 2026-11-09 📅 Создано 2024-01-29
7
meta-llama/llama-models

Утилиты, предназначенные для использования с моделями Llama.

meta-llama
⭐ 7,727 Python 👤 meta-llama Organization 🕐 Обновлено 2026-02-11 📅 Создано 2024-06-27
8
bigcode-project/starcoder

Дом StarCoder: дообучение и вывод!

bigcode-project
⭐ 7,527 Python 👤 bigcode-project Organization 🕐 Обновлено 2024-02-27 📅 Создано 2023-04-24
9
deepseek-ai/DeepSeek-LLM

DeepSeek LLM: Да будут ответы

deepseek-ai
⭐ 6,688 Makefile 👤 deepseek-ai Organization 🕐 Обновлено 2024-02-04 📅 Создано 2023-11-29
10
OpenGVLab/LLaMA-Adapter

[ICLR 2024] Дообучение LLaMA для выполнения инструкций за 1 час и 1,2 млн параметров

OpenGVLab
⭐ 5,931 Python 👤 OpenGVLab Organization 🕐 Обновлено 2024-03-14 📅 Создано 2023-03-19
11
NVIDIA/Model-Optimizer

Единая библиотека методов оптимизации моделей SOTA, таких как квантование, дистилляция, прунинг, поиск нейронных архитектур, спекулятивное декодирование и т. д. Она сжимает модели глубокого обучения для последующих фреймворков развертывания, таких как TensorRT-LLM, TensorRT, vLLM и других, для оптимизации скорости вывода.

NVIDIA
⭐ 5,646 Python 👤 NVIDIA Organization 🕐 Обновлено 2026-11-21 📅 Создано 2024-04-23
12
Hoper-J/AI-Guide-and-Demos-zh_CN

Это пошаговое руководство для начинающих в области больших моделей ИИ/LLM, включающее учебные пособия и демонстрационный код. Оно проведет вас от API к локальному развертыванию и тонкой настройке больших моделей. Файлы с кодом будут доступны в онлайн-версиях для Kaggle или Colab, что позволит вам учиться даже без графического процессора. В проекте также имеется небольшая "песочница" для кода 🎡, где вы можете экспериментировать с интересными ИИ-скриптами. Одновременно с этим, оно включает полную китайскую зеркальную версию заданий из курса Хунг-Йи Ли (HUNG-YI LEE) "Введение в генеративный ИИ 2024".

Hoper-J
⭐ 4,834 Python 👤 Hoper-J User 🕐 Обновлено 2026-10-27 📅 Создано 2024-09-10
13
city96/ComfyUI-GGUF

Поддержка квантования GGUF для нативных моделей ComfyUI

city96
⭐ 4,284 Python 👤 city96 User 🕐 Обновлено 2026-01-12 📅 Создано 2024-08-15
14
qwopqwop200/GPTQ-for-LLaMa

4-битная квантизация LLaMA с использованием GPTQ

qwopqwop200
⭐ 3,077 Python 👤 qwopqwop200 User 🕐 Обновлено 2024-07-13 📅 Создано 2023-03-06
15
echonoshy/cgft-llm

Практика для LLM.

echonoshy
⭐ 2,718 Jupyter Notebook 👤 echonoshy User 🕐 Обновлено 2026-11-16 📅 Создано 2024-05-22
16
km1994/LLMs_interview_notes

Этот репозиторий в основном записывает вопросы собеседования, связанные с инженерами алгоритмов больших языковых моделей (LLM).

km1994
⭐ 2,670 👤 km1994 User 🕐 Обновлено 2026-10-11 📅 Создано 2023-09-16
18
AI-Efficiency/Awesome-Model-Quantization

Подборка статей, бенчмарков, обзорных материалов и инструментов по квантованию моделей, охватывающая низкоразрядные сети, LLM, мультимодальные и генеративные модели, векторное и решёточное квантование, а также эффективное развертывание.

AI-Efficiency
⭐ 2,471 👤 AI-Efficiency Organization 🕐 Обновлено 2026-11-16 📅 Создано 2018-10-18
19
horseee/Awesome-Efficient-LLM

Курируемый список для эффективных больших языковых моделей

horseee
⭐ 2,019 Python 👤 horseee User 🕐 Обновлено 2025-06-17 📅 Создано 2023-05-22
20
merveenoyan/smol-vision

Рецепты для уменьшения, оптимизации и настройки передовых моделей компьютерного зрения. 💜

merveenoyan
⭐ 2,004 Jupyter Notebook 👤 merveenoyan User 🕐 Обновлено 2026-08-12 📅 Создано 2024-03-13
21
HuangOwen/Awesome-LLM-Compression

Отличные исследовательские статьи и инструменты для сжатия LLM.

HuangOwen
⭐ 1,899 👤 HuangOwen User 🕐 Обновлено 2026-11-16 📅 Создано 2023-05-30
22
XiongjieDai/GPU-Benchmarks-on-LLM-Inference

Несколько графических процессоров NVIDIA или Apple Silicon для инференса больших языковых моделей?

XiongjieDai
⭐ 1,862 Jupyter Notebook 👤 XiongjieDai User 🕐 Обновлено 2024-05-13 📅 Создано 2023-07-19
24
Xilinx/Vitis-AI

Vitis AI — это стек разработки Xilinx для вывода AI на аппаратных платформах Xilinx, включая как периферийные устройства, так и карты Alveo.

Xilinx
⭐ 1,814 Python 👤 Xilinx Organization 🕐 Обновлено 2026-02-24 📅 Создано 2019-10-16
26
bytedance/DreamO

[SIGGRAPH Asia 2025] DreamO: Единая структура для настройки изображений

bytedance
⭐ 1,651 Python 👤 bytedance Organization 🕐 Обновлено 2025-08-14 📅 Создано 2025-04-21
27
WisdomShell/codeshell

Серия больших языковых моделей для кода, разработанная PKU-KCL

WisdomShell
⭐ 1,635 Python 👤 WisdomShell Organization 🕐 Обновлено 2024-07-18 📅 Создано 2023-09-22
28
mit-han-lab/smoothquant

[ICML 2023] SmoothQuant: Точная и эффективная послетренировочная квантизация для больших языковых моделей

mit-han-lab
⭐ 1,576 Python 👤 mit-han-lab Organization 🕐 Обновлено 2024-07-12 📅 Создано 2022-11-17
29
BICLab/SpikingBrain-7B

Крупные модели, вдохновленные спайковой активностью мозга, интегрирующие гибридное эффективное внимание, модули MoE и спайковое кодирование в свою архитектуру

BICLab
⭐ 1,432 Python 👤 BICLab User 🕐 Обновлено 2026-05-14 📅 Создано 2025-09-03
30
Vahe1994/AQLM

Официальный репозиторий Pytorch для экстремального сжатия больших языковых моделей с помощью аддитивной квантизации https://arxiv.org/pdf/2401.06118.pdf и PV-Tuning: за пределами прямого оценивания для экстремального сжатия LLM https://arxiv.org/abs/2405.14852

Vahe1994
⭐ 1,330 Python 👤 Vahe1994 User 🕐 Обновлено 2026-02-26 📅 Создано 2024-01-12
31
Duxiaoman-DI/XuanYuan

Сюаньюань: Большая модель китайского финансового диалога Duxiaoman

Duxiaoman-DI
⭐ 1,323 Python 👤 Duxiaoman-DI Organization 🕐 Обновлено 2025-01-07 📅 Создано 2023-05-21
32
OpenBuddy/OpenBuddy

Открытый многоязычный чат-бот для всех

OpenBuddy
⭐ 1,274 👤 OpenBuddy Organization 🕐 Обновлено 2025-06-08 📅 Создано 2023-04-26
33
espressif/esp-dl

Библиотека глубокого обучения Espressif для приложений AIoT

espressif
⭐ 1,232 Assembly 👤 espressif Organization 🕐 Обновлено 2026-11-06 📅 Создано 2018-11-16
34
Alpha-VLLM/Lumina-mGPT-2.0

Lumina-mGPT 2.0: Автономное авторегрессионное моделирование изображений

Alpha-VLLM
⭐ 1,081 Python 👤 Alpha-VLLM Organization 🕐 Обновлено 2025-11-03 📅 Создано 2025-04-03
35
sipeed/TinyMaix

TinyMaix is a tiny inference library for microcontrollers (TinyML).

sipeed
⭐ 1,056 C 👤 sipeed Organization 🕐 Обновлено 2025-02-05 📅 Создано 2022-08-08
⭐ 1,027 Python 👤 microsoft Organization 🕐 Обновлено 2024-01-04 📅 Создано 2023-07-17
38
nvidia-cosmos/cosmos-reason1

Модели Cosmos-Reason1 понимают физический здравый смысл и генерируют соответствующие воплощенные решения на естественном языке посредством длительных процессов рассуждений в виде цепочки мыслей.

nvidia-cosmos
⭐ 965 Python 👤 nvidia-cosmos Organization 🕐 Обновлено 2026-06-07 📅 Создано 2025-03-02
39
vivo-ai-lab/BlueLM

BlueLM (Большая языковая модель Blue Heart): Открытые большие языковые модели, разработанные vivo AI Lab

vivo-ai-lab
⭐ 930 Python 👤 vivo-ai-lab Organization 🕐 Обновлено 2024-12-30 📅 Создано 2023-10-16
40
wdndev/tiny-llm-zh

Реализация с нуля китайской большой языковой модели с небольшим количеством параметров.

wdndev
⭐ 917 Python 👤 wdndev User 🕐 Обновлено 2024-08-22 📅 Создано 2024-03-03
41
ModelTC/MQBench

Бенчмарк квантования модели

ModelTC
⭐ 869 Python 👤 ModelTC Organization 🕐 Обновлено 2025-04-20 📅 Создано 2021-08-19
42
deepseek-ai/awesome-deepseek-coder

Курируемый список проектов с открытым исходным кодом, связанных с DeepSeek Coder

deepseek-ai
⭐ 842 👤 deepseek-ai Organization 🕐 Обновлено 2025-11-11 📅 Создано 2023-11-06
43
mustafaaljadery/lightning-whisper-mlx

Чрезвычайно быстрая реализация Whisper, оптимизированная для Apple Silicon с использованием MLX.

mustafaaljadery
⭐ 835 Python 👤 mustafaaljadery User 🕐 Обновлено 2024-05-08 📅 Создано 2024-03-23
44
Tencent-Hunyuan/Hunyuan-A13B

Tencent Hunyuan A13B (сокращенно Hunyuan-A13B) — инновационная и открытая LLM, построенная на основе детальной архитектуры MoE.

Tencent-Hunyuan
⭐ 815 Python 👤 Tencent-Hunyuan Organization 🕐 Обновлено 2025-07-08 📅 Создано 2025-06-27
45
nunchaku-ai/deepcompressor

Инструментарий сжатия моделей для больших языковых моделей и диффузионных моделей

nunchux-ai
⭐ 799 Python 👤 nunchux-ai Organization 🕐 Обновлено 2025-08-14 📅 Создано 2024-05-06
46
PaddlePaddle/Paddle-Lite-Demo

lib, демо, модель, данные

PaddlePaddle
⭐ 799 C++ 👤 PaddlePaddle Organization 🕐 Обновлено 2025-09-17 📅 Создано 2019-08-21
48
EricLBuehler/candle-vllm

Эффективная платформа для инференса и обслуживания локальных LLM, включая совместимый с OpenAI API-сервер.

EricLBuehler
⭐ 742 Rust 👤 EricLBuehler User 🕐 Обновлено 2026-10-18 📅 Создано 2023-10-29

Часто задаваемые вопросы

1

Какой репозиторий по теме #model-quantization наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #model-quantization на GitHub — zai-org/ChatGLM-6B, набравший 41,224 звёзд. ChatGLM-6B: Открытая двуязычная диалоговая языковая модель | Открытая двуязычная диалоговая языковая модель

2

Какие языки программирования чаще всего используются в репозиториях по теме #model-quantization?

Среди наиболее высоко оценённых проектов по теме #model-quantization на GitHub чаще всего используются языки программирования Python, Jupyter Notebook, C, Makefile.

3

Как рассчитывается рейтинг репозиториев по теме #model-quantization?

Мы отслеживаем 59 активных репозиториев с открытым исходным кодом, отмеченных тегом #model-quantization (500 и более звёзд), с общим числом 217,873 звёзд и в среднем 3,692 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.