Git Stars Git Stars

#model-quantization Repository

Scopri 59 repository GitHub open source attivi contrassegnati con #model-quantization, che raccolgono un totale di 217,873 stelle (con una media di 3,692 stelle per progetto). Il progetto leader di questo argomento è zai-org/ChatGLM-6B, con 41,224 stelle.

59
Totale Repository
217,873
Totale stelle
3,692
Media Stelle/Repo

59 repository in totale

1
zai-org/ChatGLM-6B

ChatGLM-6B: Un modello linguistico di dialogo bilingue open source | Modello linguistico di dialogo bilingue open source

zai-org
⭐ 41,224 Python 👤 zai-org Organization 🕐 Aggiornato 2024-06-27 📅 Creato 2023-03-13
2
karpathy/llama2.c

Inferenza Llama 2 in un file puro C

karpathy
⭐ 19,062 C 👤 karpathy User 🕐 Aggiornato 2024-08-06 📅 Creato 2023-07-23
3
apple-aiml-research/ml-stable-diffusion

Stable Diffusion con Core ML su Apple Silicon

apple-aiml-research
⭐ 17,962 Python 👤 apple-aiml-research Organization 🕐 Aggiornato 2026-09-11 📅 Creato 2022-11-16
4
zai-org/ChatGLM3

Serie ChatGLM3: LLM di conversazione bilingue aperti | LLM di conversazione bilingue aperti

zai-org
⭐ 13,680 Python 👤 zai-org Organization 🕐 Aggiornato 2025-01-13 📅 Creato 2023-10-26
6
OpenBMB/MiniCPM

MiniCPM5: LLM all'avanguardia sul dispositivo, piccoli ma potenti.

OpenBMB
⭐ 11,898 Jupyter Notebook 👤 OpenBMB Organization 🕐 Aggiornato 2026-11-09 📅 Creato 2024-01-29
7
meta-llama/llama-models

Utilità destinate all'uso con i modelli Llama.

meta-llama
⭐ 7,727 Python 👤 meta-llama Organization 🕐 Aggiornato 2026-02-11 📅 Creato 2024-06-27
8
bigcode-project/starcoder

Home di StarCoder: fine-tuning e inferenza!

bigcode-project
⭐ 7,527 Python 👤 bigcode-project Organization 🕐 Aggiornato 2024-02-27 📅 Creato 2023-04-24
9
deepseek-ai/DeepSeek-LLM

DeepSeek LLM: Che ci siano risposte

deepseek-ai
⭐ 6,688 Makefile 👤 deepseek-ai Organization 🕐 Aggiornato 2024-02-04 📅 Creato 2023-11-29
10
OpenGVLab/LLaMA-Adapter

[ICLR 2024] Fine-tuning di LLaMA per seguire le istruzioni entro 1 ora e 1,2 M di parametri

OpenGVLab
⭐ 5,931 Python 👤 OpenGVLab Organization 🕐 Aggiornato 2024-03-14 📅 Creato 2023-03-19
11
NVIDIA/Model-Optimizer

Una libreria unificata di tecniche di ottimizzazione dei modelli SOTA come quantizzazione, distillazione, pruning, ricerca di architetture neurali, decodifica speculativa, ecc. Comprime i modelli di deep learning per framework di distribuzione a valle come TensorRT-LLM, TensorRT, vLLM, ecc., per ottimizzare la velocità di inferenza.

NVIDIA
⭐ 5,646 Python 👤 NVIDIA Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2024-04-23
12
Hoper-J/AI-Guide-and-Demos-zh_CN

Questa è una guida passo passo per iniziare con i modelli AI/LLM di grandi dimensioni, che include tutorial e codice dimostrativo. Ti porterà dalle API all'implementazione e al fine-tuning locali di grandi modelli. I file di codice saranno forniti in versioni online per Kaggle o Colab, permettendoti di imparare anche senza una GPU. Il progetto include anche un piccolo "playground" di codice 🎡, dove puoi sperimentare script AI interessanti. Inoltre, include una versione cinese speculare completa dei compiti del corso "Introduzione all'intelligenza artificiale generativa 2024" di Hung-Yi Lee.

Hoper-J
⭐ 4,834 Python 👤 Hoper-J User 🕐 Aggiornato 2026-10-27 📅 Creato 2024-09-10
13
city96/ComfyUI-GGUF

Supporto per la quantizzazione GGUF per modelli nativi ComfyUI

city96
⭐ 4,284 Python 👤 city96 User 🕐 Aggiornato 2026-01-12 📅 Creato 2024-08-15
14
qwopqwop200/GPTQ-for-LLaMa

Quantizzazione a 4 bit di LLaMA tramite GPTQ

qwopqwop200
⭐ 3,077 Python 👤 qwopqwop200 User 🕐 Aggiornato 2024-07-13 📅 Creato 2023-03-06
16
km1994/LLMs_interview_notes

Questo repository registra principalmente domande di intervista relative agli ingegneri di algoritmi di modelli di grandi dimensioni (LLM).

km1994
⭐ 2,670 👤 km1994 User 🕐 Aggiornato 2026-10-11 📅 Creato 2023-09-16
18
AI-Efficiency/Awesome-Model-Quantization

Una raccolta curata di articoli, benchmark, rassegne e strumenti sulla quantizzazione dei modelli, che comprende reti a pochi bit, LLM, modelli multimodali e generativi, quantizzazione vettoriale e reticolare, nonché il deployment efficiente.

AI-Efficiency
⭐ 2,471 👤 AI-Efficiency Organization 🕐 Aggiornato 2026-11-16 📅 Creato 2018-10-18
19
horseee/Awesome-Efficient-LLM

Un elenco curato per efficienti modelli linguistici di grandi dimensioni

horseee
⭐ 2,019 Python 👤 horseee User 🕐 Aggiornato 2025-06-17 📅 Creato 2023-05-22
20
merveenoyan/smol-vision

Ricette per rimpicciolire, ottimizzare e personalizzare modelli di visione all'avanguardia. 💜

merveenoyan
⭐ 2,004 Jupyter Notebook 👤 merveenoyan User 🕐 Aggiornato 2026-08-12 📅 Creato 2024-03-13
21
HuangOwen/Awesome-LLM-Compression

Scarti di ricerca e strumenti eccezionali per la compressione di LLM.

HuangOwen
⭐ 1,899 👤 HuangOwen User 🕐 Aggiornato 2026-11-16 📅 Creato 2023-05-30
22
XiongjieDai/GPU-Benchmarks-on-LLM-Inference

GPU NVIDIA multiple o Apple Silicon per l'inferenza di Large Language Model?

XiongjieDai
⭐ 1,862 Jupyter Notebook 👤 XiongjieDai User 🕐 Aggiornato 2024-05-13 📅 Creato 2023-07-19
24
Xilinx/Vitis-AI

Vitis AI è lo stack di sviluppo di Xilinx per l'inferenza AI su piattaforme hardware Xilinx, inclusi sia dispositivi edge che schede Alveo.

Xilinx
⭐ 1,814 Python 👤 Xilinx Organization 🕐 Aggiornato 2026-02-24 📅 Creato 2019-10-16
26
bytedance/DreamO

[SIGGRAPH Asia 2025] DreamO: Un framework unificato per la personalizzazione delle immagini

bytedance
⭐ 1,651 Python 👤 bytedance Organization 🕐 Aggiornato 2025-08-14 📅 Creato 2025-04-21
27
WisdomShell/codeshell

Una serie di modelli linguistici di grandi dimensioni per il codice sviluppati da PKU-KCL

WisdomShell
⭐ 1,635 Python 👤 WisdomShell Organization 🕐 Aggiornato 2024-07-18 📅 Creato 2023-09-22
28
mit-han-lab/smoothquant

[ICML 2023] SmoothQuant: Quantizzazione Post-Training Accurata ed Efficiente per Grandi Modelli Linguistici

mit-han-lab
⭐ 1,576 Python 👤 mit-han-lab Organization 🕐 Aggiornato 2024-07-12 📅 Creato 2022-11-17
29
BICLab/SpikingBrain-7B

Modelli di grandi dimensioni ispirati al cervello a spiking, che integrano un'attenzione ibrida efficiente, moduli MoE e codifica a spike nella loro architettura

BICLab
⭐ 1,432 Python 👤 BICLab User 🕐 Aggiornato 2026-05-14 📅 Creato 2025-09-03
30
Vahe1994/AQLM

Repository ufficiale Pytorch per la compressione estrema di Large Language Models tramite quantizzazione additiva https://arxiv.org/pdf/2401.06118.pdf e PV-Tuning: Oltre la stima diretta per la compressione estrema di LLM https://arxiv.org/abs/2405.14852

Vahe1994
⭐ 1,330 Python 👤 Vahe1994 User 🕐 Aggiornato 2026-02-26 📅 Creato 2024-01-12
31
Duxiaoman-DI/XuanYuan

Xuanyuan: Il grande modello di dialogo finanziario cinese di Duxiaoman

Duxiaoman-DI
⭐ 1,323 Python 👤 Duxiaoman-DI Organization 🕐 Aggiornato 2025-01-07 📅 Creato 2023-05-21
32
OpenBuddy/OpenBuddy

Chatbot multilingue aperto per tutti

OpenBuddy
⭐ 1,274 👤 OpenBuddy Organization 🕐 Aggiornato 2025-06-08 📅 Creato 2023-04-26
33
espressif/esp-dl

Libreria di deep learning di Espressif per applicazioni AIoT

espressif
⭐ 1,232 Assembly 👤 espressif Organization 🕐 Aggiornato 2026-11-06 📅 Creato 2018-11-16
34
Alpha-VLLM/Lumina-mGPT-2.0

Lumina-mGPT 2.0: Modellazione autonoma autoregressiva di immagini

Alpha-VLLM
⭐ 1,081 Python 👤 Alpha-VLLM Organization 🕐 Aggiornato 2025-11-03 📅 Creato 2025-04-03
35
sipeed/TinyMaix

TinyMaix is a tiny inference library for microcontrollers (TinyML).

sipeed
⭐ 1,056 C 👤 sipeed Organization 🕐 Aggiornato 2025-02-05 📅 Creato 2022-08-08
38
nvidia-cosmos/cosmos-reason1

I modelli Cosmos-Reason1 comprendono il senso comune fisico e generano appropriate decisioni incarnate in linguaggio naturale attraverso lunghi processi di ragionamento a catena di pensiero.

nvidia-cosmos
⭐ 965 Python 👤 nvidia-cosmos Organization 🕐 Aggiornato 2026-06-07 📅 Creato 2025-03-02
39
vivo-ai-lab/BlueLM

BlueLM (Modello Linguistico di Grandi Dimensioni Blue Heart): Modelli linguistici di grandi dimensioni aperti sviluppati dal vivo AI Lab

vivo-ai-lab
⭐ 930 Python 👤 vivo-ai-lab Organization 🕐 Aggiornato 2024-12-30 📅 Creato 2023-10-16
40
wdndev/tiny-llm-zh

Implementazione da zero di un modello linguistico cinese di grandi dimensioni con pochi parametri.

wdndev
⭐ 917 Python 👤 wdndev User 🕐 Aggiornato 2024-08-22 📅 Creato 2024-03-03
41
ModelTC/MQBench

Benchmark di quantizzazione del modello

ModelTC
⭐ 869 Python 👤 ModelTC Organization 🕐 Aggiornato 2025-04-20 📅 Creato 2021-08-19
42
deepseek-ai/awesome-deepseek-coder

Un elenco curato di progetti open-source relativi a DeepSeek Coder

deepseek-ai
⭐ 842 👤 deepseek-ai Organization 🕐 Aggiornato 2025-11-11 📅 Creato 2023-11-06
43
mustafaaljadery/lightning-whisper-mlx

Un'implementazione estremamente veloce di Whisper ottimizzata per Apple Silicon utilizzando MLX.

mustafaaljadery
⭐ 835 Python 👤 mustafaaljadery User 🕐 Aggiornato 2024-05-08 📅 Creato 2024-03-23
44
Tencent-Hunyuan/Hunyuan-A13B

Tencent Hunyuan A13B (in breve Hunyuan-A13B), un LLM innovativo e open-source costruito su un'architettura MoE a grana fine.

Tencent-Hunyuan
⭐ 815 Python 👤 Tencent-Hunyuan Organization 🕐 Aggiornato 2025-07-08 📅 Creato 2025-06-27
45
nunchaku-ai/deepcompressor

Toolbox per la Compressione di Modelli per Grandi Modelli Linguistici e Modelli di Diffusione

nunchux-ai
⭐ 799 Python 👤 nunchux-ai Organization 🕐 Aggiornato 2025-08-14 📅 Creato 2024-05-06
46
PaddlePaddle/Paddle-Lite-Demo

lib, demo, modello, dati

PaddlePaddle
⭐ 799 C++ 👤 PaddlePaddle Organization 🕐 Aggiornato 2025-09-17 📅 Creato 2019-08-21
48
EricLBuehler/candle-vllm

Piattaforma efficiente per l'inferenza e il servizio di LLM locali, incluso un server API compatibile con OpenAI.

EricLBuehler
⭐ 742 Rust 👤 EricLBuehler User 🕐 Aggiornato 2026-10-18 📅 Creato 2023-10-29

Domande frequenti

1

Qual è il repository #model-quantization più popolare su GitHub?

Il progetto open source #model-quantization più alto in classifica su GitHub è zai-org/ChatGLM-6B, con 41,224 stelle. ChatGLM-6B: Un modello linguistico di dialogo bilingue open source | Modello linguistico di dialogo bilingue open source

2

Quali linguaggi di programmazione sono più utilizzati nei repository #model-quantization?

Tra i progetti #model-quantization più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, Jupyter Notebook, C, Makefile.

3

Come viene calcolata la classifica dei repository #model-quantization?

Monitoriamo 59 repository open source attivi contrassegnati con #model-quantization (500+ stelle), per un totale di 217,873 stelle e una media di 3,692 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.