Git Stars Git Stars

#model-quantization 仓库

探索 59 个标记为 #model-quantization 的活跃开源 GitHub 仓库,它们累计获得 217,873 个 Star(平均每个项目 3,692 个)。该主题的领先项目是 zai-org/ChatGLM-6B,拥有 41,224 个 Star。

59
仓库总数
217,873
总星标数
3,692
平均每个仓库星标数
1
zai-org/ChatGLM-6B

ChatGLM-6B: 开源双语对话语言模型 | 开源双语对话语言模型

zai-org
⭐ 41,224 Python 👤 zai-org Organization 🕐 已更新 2024-06-27 📅 创建时间 2023-03-13
2
karpathy/llama2.c

纯C语言文件中的 Llama 2 推理

karpathy
⭐ 19,062 C 👤 karpathy User 🕐 已更新 2024-08-06 📅 创建时间 2023-07-23
3
apple-aiml-research/ml-stable-diffusion

Apple Silicon 上的 Core ML 稳定扩散

apple-aiml-research
⭐ 17,962 Python 👤 apple-aiml-research Organization 🕐 已更新 2026-09-11 📅 创建时间 2022-11-16
4
zai-org/ChatGLM3

ChatGLM3系列: 开源双语对话语言模型 | 开源双语对话语言模型

zai-org
⭐ 13,680 Python 👤 zai-org Organization 🕐 已更新 2025-01-13 📅 创建时间 2023-10-26
6
OpenBMB/MiniCPM

MiniCPM5:端侧最先进的大语言模型,小而强大。

OpenBMB
⭐ 11,898 Jupyter Notebook 👤 OpenBMB Organization 🕐 已更新 2026-11-09 📅 创建时间 2024-01-29
7
meta-llama/llama-models

Llama模型的配套工具。

meta-llama
⭐ 7,727 Python 👤 meta-llama Organization 🕐 已更新 2026-02-11 📅 创建时间 2024-06-27
8
bigcode-project/starcoder

StarCoder 的主场:微调与推理!

bigcode-project
⭐ 7,527 Python 👤 bigcode-project Organization 🕐 已更新 2024-02-27 📅 创建时间 2023-04-24
9
deepseek-ai/DeepSeek-LLM

DeepSeek LLM: 答案诞生

deepseek-ai
⭐ 6,688 Makefile 👤 deepseek-ai Organization 🕐 已更新 2024-02-04 📅 创建时间 2023-11-29
10
OpenGVLab/LLaMA-Adapter

[ICLR 2024] 1小时内、使用120万参数对LLaMA进行微调以遵循指令

OpenGVLab
⭐ 5,931 Python 👤 OpenGVLab Organization 🕐 已更新 2024-03-14 📅 创建时间 2023-03-19
11
NVIDIA/Model-Optimizer

一个统一的 SOTA 模型优化技术库,包含量化、蒸馏、剪枝、神经架构搜索、推测解码等技术。它为 TensorRT-LLM、TensorRT、vLLM 等下游部署框架压缩深度学习模型,以优化推理速度。

NVIDIA
⭐ 5,646 Python 👤 NVIDIA Organization 🕐 已更新 2026-11-21 📅 创建时间 2024-04-23
12
Hoper-J/AI-Guide-and-Demos-zh_CN

这是一份入门AI/LLM大模型的逐步指南,包含教程和演示代码,带你从API走进本地大模型部署和微调,代码文件会提供Kaggle或Colab在线版本,即便没有显卡也可以进行学习。项目中还开设了一个小型的代码游乐场🎡,你可以尝试在里面实验一些有意思的AI脚本。同时,包含李宏毅 (HUNG-YI LEE)2024生成式人工智能导论课程的完整中文镜像作业。

Hoper-J
⭐ 4,834 Python 👤 Hoper-J User 🕐 已更新 2026-10-27 📅 创建时间 2024-09-10
13
city96/ComfyUI-GGUF

ComfyUI原生模型的GGUF量化支持

city96
⭐ 4,284 Python 👤 city96 User 🕐 已更新 2026-01-12 📅 创建时间 2024-08-15
14
qwopqwop200/GPTQ-for-LLaMa

使用GPTQ对LLaMA进行4位量化

qwopqwop200
⭐ 3,077 Python 👤 qwopqwop200 User 🕐 已更新 2024-07-13 📅 创建时间 2023-03-06
16
km1994/LLMs_interview_notes

该仓库主要记录 大模型(LLMs) 算法工程师相关的面试题

km1994
⭐ 2,670 👤 km1994 User 🕐 已更新 2026-10-11 📅 创建时间 2023-09-16
18
AI-Efficiency/Awesome-Model-Quantization

精选的模型量化论文、基准测试、综述和工具集合,涵盖低比特网络、大语言模型、多模态与生成模型、矢量量化和格量化,以及高效部署。

AI-Efficiency
⭐ 2,471 👤 AI-Efficiency Organization 🕐 已更新 2026-11-16 📅 创建时间 2018-10-18
19
horseee/Awesome-Efficient-LLM

高效大型语言模型的精选列表

horseee
⭐ 2,019 Python 👤 horseee User 🕐 已更新 2025-06-17 📅 创建时间 2023-05-22
20
merveenoyan/smol-vision

用于缩小、优化、定制前沿视觉模型的配方。💜

merveenoyan
⭐ 2,004 Jupyter Notebook 👤 merveenoyan User 🕐 已更新 2026-08-12 📅 创建时间 2024-03-13
21
HuangOwen/Awesome-LLM-Compression

关于LLM压缩的优秀研究论文和工具。

HuangOwen
⭐ 1,899 👤 HuangOwen User 🕐 已更新 2026-11-16 📅 创建时间 2023-05-30
22
XiongjieDai/GPU-Benchmarks-on-LLM-Inference

用于大型语言模型推理的多个NVIDIA GPU或Apple Silicon?

XiongjieDai
⭐ 1,862 Jupyter Notebook 👤 XiongjieDai User 🕐 已更新 2024-05-13 📅 创建时间 2023-07-19
24
Xilinx/Vitis-AI

Vitis AI 是 Xilinx 为 Xilinx 硬件平台(包括边缘设备和 Alveo 卡)上的 AI 推理开发的开发栈。

Xilinx
⭐ 1,814 Python 👤 Xilinx Organization 🕐 已更新 2026-02-24 📅 创建时间 2019-10-16
26
bytedance/DreamO

[SIGGRAPH Asia 2025] DreamO: 图像定制的统一框架

bytedance
⭐ 1,651 Python 👤 bytedance Organization 🕐 已更新 2025-08-14 📅 创建时间 2025-04-21
27
WisdomShell/codeshell

PKU-KCL开发的一系列代码大型语言模型

WisdomShell
⭐ 1,635 Python 👤 WisdomShell Organization 🕐 已更新 2024-07-18 📅 创建时间 2023-09-22
28
mit-han-lab/smoothquant

[ICML 2023] SmoothQuant: 适用于大型语言模型的精确高效的训练后量化

mit-han-lab
⭐ 1,576 Python 👤 mit-han-lab Organization 🕐 已更新 2024-07-12 📅 创建时间 2022-11-17
29
BICLab/SpikingBrain-7B

受脉冲神经元启发的巨型模型,将混合高效注意力、MoE 模块和脉冲编码集成到其架构中

BICLab
⭐ 1,432 Python 👤 BICLab User 🕐 已更新 2026-05-14 📅 创建时间 2025-09-03
30
Vahe1994/AQLM

用于极端压缩大型语言模型的官方 Pytorch 存储库,通过加法量化 https://arxiv.org/pdf/2401.06118.pdf 和 PV-Tuning:超越直通估计的 extremo LLM 压缩 https://arxiv.org/abs/2405.14852

Vahe1994
⭐ 1,330 Python 👤 Vahe1994 User 🕐 已更新 2026-02-26 📅 创建时间 2024-01-12
31
Duxiaoman-DI/XuanYuan

轩辕:度小满中文金融对话大模型

Duxiaoman-DI
⭐ 1,323 Python 👤 Duxiaoman-DI Organization 🕐 已更新 2025-01-07 📅 创建时间 2023-05-21
32
OpenBuddy/OpenBuddy

面向所有人的开放式多语言聊天机器人

OpenBuddy
⭐ 1,274 👤 OpenBuddy Organization 🕐 已更新 2025-06-08 📅 创建时间 2023-04-26
33
espressif/esp-dl

Espressif 用于 AIoT 应用的深度学习库

espressif
⭐ 1,232 Assembly 👤 espressif Organization 🕐 已更新 2026-11-06 📅 创建时间 2018-11-16
34
Alpha-VLLM/Lumina-mGPT-2.0

Lumina-mGPT 2.0:独立式自回归图像建模

Alpha-VLLM
⭐ 1,081 Python 👤 Alpha-VLLM Organization 🕐 已更新 2025-11-03 📅 创建时间 2025-04-03
35
sipeed/TinyMaix

TinyMaix is a tiny inference library for microcontrollers (TinyML)。

sipeed
⭐ 1,056 C 👤 sipeed Organization 🕐 已更新 2025-02-05 📅 创建时间 2022-08-08
⭐ 1,027 Python 👤 microsoft Organization 🕐 已更新 2024-01-04 📅 创建时间 2023-07-17
38
nvidia-cosmos/cosmos-reason1

Cosmos-Reason1 模型通过长篇的链式思考推理过程,理解物理世界的常识,并以自然语言生成合适的具身决策。

nvidia-cosmos
⭐ 965 Python 👤 nvidia-cosmos Organization 🕐 已更新 2026-06-07 📅 创建时间 2025-03-02
39
vivo-ai-lab/BlueLM

BlueLM(蓝心大模型): vivo AI Lab 开发的开放式大语言模型

vivo-ai-lab
⭐ 930 Python 👤 vivo-ai-lab Organization 🕐 已更新 2024-12-30 📅 创建时间 2023-10-16
40
wdndev/tiny-llm-zh

从零实现一个小参数量中文大语言模型。

wdndev
⭐ 917 Python 👤 wdndev User 🕐 已更新 2024-08-22 📅 创建时间 2024-03-03
41
ModelTC/MQBench

模型量化基准测试

ModelTC
⭐ 869 Python 👤 ModelTC Organization 🕐 已更新 2025-04-20 📅 创建时间 2021-08-19
42
deepseek-ai/awesome-deepseek-coder

与 DeepSeek Coder 相关的精选开源项目列表

deepseek-ai
⭐ 842 👤 deepseek-ai Organization 🕐 已更新 2025-11-11 📅 创建时间 2023-11-06
43
mustafaaljadery/lightning-whisper-mlx

使用 MLX 针对 Apple Silicon 进行优化的极速 Whisper 实现。

mustafaaljadery
⭐ 835 Python 👤 mustafaaljadery User 🕐 已更新 2024-05-08 📅 创建时间 2024-03-23
44
Tencent-Hunyuan/Hunyuan-A13B

Hunyuan-A13B”,一个建立在细粒度MoE架构上的创新型开源大模型。

Tencent-Hunyuan
⭐ 815 Python 👤 Tencent-Hunyuan Organization 🕐 已更新 2025-07-08 📅 创建时间 2025-06-27
45
nunchaku-ai/deepcompressor

大语言模型与扩散模型的模型压缩工具箱

nunchux-ai
⭐ 799 Python 👤 nunchux-ai Organization 🕐 已更新 2025-08-14 📅 创建时间 2024-05-06
46
PaddlePaddle/Paddle-Lite-Demo

库, 演示, 模型, 数据

PaddlePaddle
⭐ 799 C++ 👤 PaddlePaddle Organization 🕐 已更新 2025-09-17 📅 创建时间 2019-08-21
48
EricLBuehler/candle-vllm

一个用于本地 LLM 推理和服务的有效平台,包含一个兼容 OpenAI 的 API 服务器。

EricLBuehler
⭐ 742 Rust 👤 EricLBuehler User 🕐 已更新 2026-10-18 📅 创建时间 2023-10-29

常见问题解答

1

GitHub 上最受欢迎的 #model-quantization 仓库是什么?

GitHub 上排名第一的开源 #model-quantization 项目是 zai-org/ChatGLM-6B,拥有 41,224 个 Star。ChatGLM-6B: 开源双语对话语言模型 | 开源双语对话语言模型

2

#model-quantization 仓库中最常使用的编程语言有哪些?

在 GitHub 上排名靠前的 #model-quantization 项目中,最常见的编程语言是 Python, Jupyter Notebook, C, Makefile。

3

#model-quantization 仓库的排名是如何计算的?

我们跟踪了 59 个标记为 #model-quantization 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 217,873 个 Star,平均每个仓库拥有 3,692 个 Star。排名每日根据 GitHub API 更新。