Git Stars Git Stars

#quantization Repository

Scopri 109 repository GitHub open source attivi contrassegnati con #quantization, che raccolgono un totale di 487,465 stelle (con una media di 4,472 stelle per progetto). Il progetto leader di questo argomento è hiyouga/LlamaFactory, con 76,171 stelle.

109
Totale Repository
487,465
Totale stelle
4,472
Media Stelle/Repo

109 repository in totale

1
hiyouga/LlamaFactory

Fine-tuning unificato ed efficiente di oltre 100 LLM e VLM (ACL 2024)

hiyouga
⭐ 76,171 Python 👤 hiyouga User 🕐 Aggiornato 2026-11-21 📅 Creato 2023-05-28
2
xai-org/grok-1

Grok Open Release

xai-org
⭐ 50,567 Python 👤 xai-org Organization 🕐 Aggiornato 2024-08-30 📅 Creato 2024-03-17
3
microsoft/BitNet

Framework di inferenza ufficiale per LLM a 1 bit

microsoft
⭐ 42,358 C++ 👤 microsoft Organization 🕐 Aggiornato 2026-07-27 📅 Creato 2024-08-05
4
SYSTRAN/faster-whisper

Trascrizione Whisper più veloce con CTranslate2

SYSTRAN
⭐ 26,924 Python 👤 SYSTRAN Organization 🕐 Aggiornato 2026-11-12 📅 Creato 2023-02-11
5
kvcache-ai/ktransformers

Un framework flessibile per sperimentare ottimizzazioni di inferenza/fine-tuning di LLM eterogenei

kvcache-ai
⭐ 19,687 Python 👤 kvcache-ai Organization 🕐 Aggiornato 2026-11-13 📅 Creato 2024-07-26
6
ymcui/Chinese-LLaMA-Alpaca

Modelli Linguistici di Grandi Dimensioni Cinesi LLaMA & Alpaca + Addestramento/Deployment Locale su CPU/GPU (Chinese LLaMA & Alpaca LLMs)

ymcui
⭐ 18,915 Python 👤 ymcui User 🕐 Aggiornato 2026-04-19 📅 Creato 2023-03-15
7
UFund-Me/Qbot

[🔥in aggiornamento ...] Bot di trading quantitativo AI automatico (distribuito completamente in locale) Piattaforma di ricerca sugli investimenti quantitativi basata sull'IA. 📃 documentazione online: https://ufund-me.github.io/Qbot ✨ :news: qbot-mini: https://github.com/Charmve/iQuant

UFund-Me
⭐ 18,849 Jupyter Notebook 👤 UFund-Me Organization 🕐 Aggiornato 2026-03-11 📅 Creato 2022-11-23
8
RyanCodrai/turbovec

Un indice vettoriale costruito su TurboQuant, scritto in Rust con binding Python

RyanCodrai
⭐ 17,505 Rust 👤 RyanCodrai User 🕐 Aggiornato 2026-10-07 📅 Creato 2026-03-26
9
FareedKhan-dev/kimi-k3-in-c

Un modello Kimi K3 da 2,78 trilioni di parametri che esegue l'inferenza su una singola CPU con 8,24 GB di RAM. C99 portatile: niente BLAS, niente framework, niente GPU.

FareedKhan-dev
⭐ 12,523 C 👤 FareedKhan-dev User 🕐 Aggiornato 2026-11-16 📅 Creato 2026-08-01
10
artidoro/qlora

QLoRA: Fine-tuning efficiente di LLM quantizzati

artidoro
⭐ 10,804 Jupyter Notebook 👤 artidoro User 🕐 Aggiornato 2024-06-10 📅 Creato 2023-05-11
11
bitsandbytes-foundation/bitsandbytes

Modelli linguistici di grandi dimensioni accessibili tramite quantizzazione k-bit per PyTorch.

bitsandbytes-foundation
⭐ 8,548 Python 👤 bitsandbytes-foundation Organization 🕐 Aggiornato 2026-11-02 📅 Creato 2021-06-04
12
gpu-mode/lectures

Materiale per lezioni in modalità gpu

gpu-mode
⭐ 7,109 Jupyter Notebook 👤 gpu-mode Organization 🕐 Aggiornato 2026-09-09 📅 Creato 2024-01-20
13
meta-pytorch/gpt-fast

Generazione di testo Transformer semplice ed efficiente, nativa di Pytorch, in <1000 LOC di Python.

meta-pytorch
⭐ 6,244 Python 👤 meta-pytorch Organization 🕐 Aggiornato 2025-08-22 📅 Creato 2023-10-17
14
Lightning-AI/lit-llama

Implementazione del modello linguistico LLaMA basato su nanoGPT. Supporta l'attenzione flash, la quantizzazione Int8 e GPTQ a 4 bit, la messa a punto LoRA e LLaMA-Adapter, il pre-training. Licenza Apache 2.0.

Lightning-AI
⭐ 6,084 Python 👤 Lightning-AI Organization 🕐 Aggiornato 2025-07-01 📅 Creato 2023-03-22
15
kornelski/pngquant

Compressore PNG lossy — comando pngquant basato sulla libreria libimagequant

kornelski
⭐ 5,773 C 👤 kornelski User 🕐 Aggiornato 2026-10-27 📅 Creato 2009-09-17
16
ztxz16/fastllm

fastllm è una libreria di inferenza per modelli linguistici di grandi dimensioni ad alte prestazioni, senza dipendenze da backend, che consente di eseguire inferenze in modo efficiente sulla maggior parte dei dispositivi.

ztxz16
⭐ 5,133 C++ 👤 ztxz16 User 🕐 Aggiornato 2026-11-21 📅 Creato 2023-05-13
17
OpenNMT/CTranslate2

Motore di inferenza veloce per modelli Transformer

OpenNMT
⭐ 4,758 C++ 👤 OpenNMT Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2019-09-23
18
turboderp-org/exllamav2

Una libreria di inferenza veloce per eseguire LLM localmente su moderne GPU di classe consumer

turboderp-org
⭐ 4,653 Python 👤 turboderp-org Organization 🕐 Aggiornato 2026-03-04 📅 Creato 2023-08-30
19
CalvinXKY/InfraTech

Condivisione di conoscenze AI Infra e pratica di codice: PyTorch, vLLM/SGLang, introduzione al framework slime/vime ⚡️, accelerazione delle prestazioni 🚀, basi dei modelli grandi 🧠, software e hardware AI 🔧, ecc.

CalvinXKY
⭐ 4,411 Jupyter Notebook 👤 CalvinXKY User 🕐 Aggiornato 2026-09-20 📅 Creato 2025-11-14
20
thu-ml/SageAttention

[ICLR2025, ICML2025, NeurIPS2025 Spotlight] L'attenzione Quantizzata (Quantized Attention) raggiunge un aumento di velocità da 2 a 5 volte rispetto a FlashAttention, senza perdere le metriche end-to-end sui modelli di linguaggio, immagine e video.

thu-ml
⭐ 4,017 Cuda 👤 thu-ml Organization 🕐 Aggiornato 2026-01-17 📅 Creato 2024-10-03
21
vllm-project/llm-compressor

Compressione di LLM all’avanguardia, progettata per l’inferenza in produzione con vLLM

vllm-project
⭐ 3,981 Python 👤 vllm-project Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2024-06-20
22
nunchux-ai/nunchaku

[ICLR2025 Spotlight] SVDQuant: Assorbire gli outlier tramite componenti a basso rango per modelli di diffusione a 4 bit

nunchux-ai
⭐ 3,969 Python 👤 nunchux-ai Organization 🕐 Aggiornato 2026-09-06 📅 Creato 2024-11-06
23
NVlabs/VILA

VILA è una famiglia di modelli visivi linguistici (VLM) all'avanguardia per diversi compiti di intelligenza artificiale multimodale su edge, data center e cloud.

NVlabs
⭐ 3,873 Python 👤 NVlabs Organization 🕐 Aggiornato 2026-03-12 📅 Creato 2024-02-23
24
amitshekhariitbhu/ai-engineering-interview-questions

Il tuo cheat sheet per il colloquio di ingegneria IA – Domande e risposte.

amitshekhariitbhu
⭐ 3,707 Markdown 👤 amitshekhariitbhu User 🕐 Aggiornato 2026-11-21 📅 Creato 2026-03-21
25
mit-han-lab/llm-awq

[MLSys 2024 Best Paper Award] AWQ: Quantizzazione dei pesi consapevole dell'attivazione per la compressione e l'accelerazione di LLM

mit-han-lab
⭐ 3,590 Python 👤 mit-han-lab Organization 🕐 Aggiornato 2025-07-17 📅 Creato 2023-06-01
26
huggingface/optimum

Accelera l'inferenza e l'addestramento di 🤗 Transformers, Diffusers, TIMM e Sentence Transformers con strumenti di ottimizzazione hardware facili da usare

huggingface
⭐ 3,525 Python 👤 huggingface Organization 🕐 Aggiornato 2026-11-16 📅 Creato 2021-07-20
27
ikawrakow/ik_llama.cpp

llama.cpp fork con quants SOTA aggiuntivi e prestazioni migliorate

ikawrakow
⭐ 3,411 C++ 👤 ikawrakow User 🕐 Aggiornato 2026-11-21 📅 Creato 2024-06-27
28
huawei-noah/Pretrained-Language-Model

Modello linguistico pre-addestrato e relative tecniche di ottimizzazione sviluppate da Huawei Noah's Ark Lab.

huawei-noah
⭐ 3,152 Python 👤 huawei-noah Organization 🕐 Aggiornato 2024-01-22 📅 Creato 2019-12-02
29
mw00/project-maya

Esegui GLM-5.3 (744B), DeepSeek-V4.1-Flash (748B), MiniMax-M3.1-Flash (428B), GLM-5.3-Flash (321B) e Hy4-Flash (220B) sulle tue GPU — a partire da 8 GB di VRAM, con supporto per NVIDIA e AMD, un’unica dashboard e un’API compatibile con OpenAI e Anthropic.

mw00
⭐ 3,140 C++ 👤 mw00 User 🕐 Aggiornato 2026-11-21 📅 Creato 2026-10-06
30
pytorch/ao

Quantizzazione nativa PyTorch per addestramento e inferenza

pytorch
⭐ 3,032 Python 👤 pytorch Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2023-11-03
31
nunchux-ai/ComfyUI-nunchaku

Plugin ComfyUI di Nunchaku

nunchux-ai
⭐ 2,934 Python 👤 nunchux-ai Organization 🕐 Aggiornato 2026-09-06 📅 Creato 2025-03-12
32
black-forest-labs/flux2

Repository ufficiale di inferenza per i modelli FLUX.2

black-forest-labs
⭐ 2,886 Python 👤 black-forest-labs Organization 🕐 Aggiornato 2026-03-12 📅 Creato 2025-11-24
33
syv-ai/HyperQwen

Esegui rapidamente modelli Qwen di grandi dimensioni sulle GPU che possiedi davvero. Qwen3.8-27B su una singola scheda da 24 GB con vLLM: 127 tok/s per un singolo utente (381 quando la risposta cita il prompt), circa 1.035 tok/s con 64 richieste simultanee e un contesto di 150k–262k. Patch per vLLM, pipeline di requantizzazione e benchmark.

syv-ai
⭐ 2,778 Python 👤 syv-ai Organization 🕐 Aggiornato 2026-11-10 📅 Creato 2026-08-15
34
qualcomm/aimet

AIMET è una libreria che fornisce tecniche avanzate di quantizzazione e compressione per modelli di reti neurali addestrati.

qualcomm
⭐ 2,748 Python 👤 qualcomm Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2020-04-21
35
intel/neural-compressor

Quantizzazione LLM a basso bit SOTA (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) e sparsità; tecniche leader di compressione del modello su PyTorch, TensorFlow e ONNX Runtime

intel
⭐ 2,733 Python 👤 intel Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2020-07-21
36
stochasticai/xTuring

Costruisci, personalizza e controlla i tuoi LLM. Dalla pre-elaborazione dei dati al fine-tuning, xTuring offre un modo semplice per personalizzare gli LLM open-source. Unisciti alla nostra community Discord: https://discord.gg/TgHXuSJEk6

stochasticai
⭐ 2,680 Python 👤 stochasticai Organization 🕐 Aggiornato 2026-11-05 📅 Creato 2023-03-19
37
adithya-s-k/AI-Engineering.academy

Padrroneggiare l'IA applicata, un concetto alla volta

adithya-s-k
⭐ 2,388 Jupyter Notebook 👤 adithya-s-k User 🕐 Aggiornato 2026-02-27 📅 Creato 2023-10-05
38
dvmazur/mixtral-offloading

Esegui modelli Mixtral-8x7B in Colab o su desktop consumer

dvmazur
⭐ 2,327 Python 👤 dvmazur User 🕐 Aggiornato 2024-04-08 📅 Creato 2023-12-15
39
aixcoder-plugin/aiXcoder-7B

repository ufficiale del modello linguistico di grandi dimensioni per codice aiXcoder-7B

aixcoder-plugin
⭐ 2,273 Python 👤 aixcoder-plugin Organization 🕐 Aggiornato 2025-07-09 📅 Creato 2024-03-30
40
666DZY666/micronet

micronet, una libreria per compressione e deployment di modelli. Compressione: 1、Quantizzazione: training-aware quantization(QAT), High-Bit(>2b)(DoReFa/Quantization and Training of Neural Networks for Efficient Integer-Arithmetic-Only Inference)、Low-Bit(≤2b)/Ternario e Binario(TWN/BNN/XNOR-Net); quantizzazione post-training(PTQ), 8-bit(tensorrt); 2、potatura: normale、regolare e potatura di canali convoluzionali di gruppo; 3、struttura di convoluzione di gruppo; 4、fusione di normalizzazione batch per quantizzazione. Deployment: tensorrt, fp32/fp16/in

666DZY666
⭐ 2,270 Python 👤 666DZY666 User 🕐 Aggiornato 2025-05-06 📅 Creato 2019-12-04
41
IST-DASLab/gptq

Codice per l'articolo ICLR 2023 "GPTQ: Accurate Post-training Quantization of Generative Pretrained Transformers".

IST-DASLab
⭐ 2,241 Python 👤 IST-DASLab Organization 🕐 Aggiornato 2024-03-27 📅 Creato 2022-10-19
42
RightNow-AI/picolm

Esegui un LLM con 1 miliardo di parametri su una scheda da $10 con 256 MB di RAM.

RightNow-AI
⭐ 2,218 C 👤 RightNow-AI Organization 🕐 Aggiornato 2026-02-22 📅 Creato 2026-02-19
43
bigcode-project/starcoder2

Casa di StarCoder2!

bigcode-project
⭐ 2,018 Python 👤 bigcode-project Organization 🕐 Aggiornato 2024-03-21 📅 Creato 2023-12-08
44
intel/intel-extension-for-pytorch

Un pacchetto Python per estendere l'ufficiale PyTorch che può facilmente ottenere prestazioni sulla piattaforma Intel

intel
⭐ 2,012 Python 👤 intel Organization 🕐 Aggiornato 2026-03-13 📅 Creato 2020-04-15
45
turboderp-org/exllamav3

Una libreria ottimizzata per la quantizzazione e l'inferenza per l'esecuzione locale di LLM su GPU consumer moderne

turboderp-org
⭐ 1,853 Python 👤 turboderp-org Organization 🕐 Aggiornato 2026-11-19 📅 Creato 2025-04-06
46
Tencent/AngelSlim

Toolkit di compressione dei modelli progettato per una maggiore usabilità, completezza ed efficienza.

Tencent
⭐ 1,811 Python 👤 Tencent Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2025-07-04
47
OpenPPL/ppq

PPL Quantization Tool (PPQ) è un potente strumento offline per la quantizzazione di reti neurali.

OpenPPL
⭐ 1,774 Python 👤 OpenPPL Organization 🕐 Aggiornato 2024-03-28 📅 Creato 2021-12-30
48
Anemll/Anemll

Artificial Neural Engine Machine Learning Library

Anemll
⭐ 1,710 Python 👤 Anemll User 🕐 Aggiornato 2026-10-31 📅 Creato 2025-01-06
49
intel/auto-round

Efficienza della quantizzazione post-training, accuratezza della quantizzazione con addestramento consapevole

intel
⭐ 1,706 Python 👤 intel Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2024-01-04
50
microsoft/onnxruntime-inference-examples

Esempi per l'utilizzo di ONNX Runtime per l'inferenza di machine learning.

microsoft
⭐ 1,703 C++ 👤 microsoft Organization 🕐 Aggiornato 2026-11-10 📅 Creato 2021-04-09

Domande frequenti

1

Qual è il repository #quantization più popolare su GitHub?

Il progetto open source #quantization più alto in classifica su GitHub è hiyouga/LlamaFactory, con 76,171 stelle. Fine-tuning unificato ed efficiente di oltre 100 LLM e VLM (ACL 2024)

2

Quali linguaggi di programmazione sono più utilizzati nei repository #quantization?

Tra i progetti #quantization più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, C++, Jupyter Notebook, C.

3

Come viene calcolata la classifica dei repository #quantization?

Monitoriamo 109 repository open source attivi contrassegnati con #quantization (500+ stelle), per un totale di 487,465 stelle e una media di 4,472 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.