Git Stars Git Stars

#quantization Dépôts

Découvrez 109 dépôts GitHub open source actifs associés à #quantization, cumulant 487,465 étoiles au total (soit une moyenne de 4,472 étoiles par projet). Le projet en tête de ce thème est hiyouga/LlamaFactory, avec 76,171 étoiles.

109
Total des Dépôts
487,465
Nombre total d'étoiles
4,472
Moyenne d'Étoiles/Dépôt
1
hiyouga/LlamaFactory

Affinage efficace unifié de plus de 100 LLM et VLM (ACL 2024)

hiyouga
⭐ 76,171 Python 👤 hiyouga User 🕐 Mis à jour 2026-11-21 📅 Créé 2023-05-28
2
xai-org/grok-1

Grok Open Release

xai-org
⭐ 50,567 Python 👤 xai-org Organization 🕐 Mis à jour 2024-08-30 📅 Créé 2024-03-17
3
microsoft/BitNet

Framework d'inférence officiel pour les LLM 1 bits

microsoft
⭐ 42,358 C++ 👤 microsoft Organization 🕐 Mis à jour 2026-07-27 📅 Créé 2024-08-05
4
SYSTRAN/faster-whisper

Transcription Whisper plus rapide avec CTranslate2

SYSTRAN
⭐ 26,924 Python 👤 SYSTRAN Organization 🕐 Mis à jour 2026-11-12 📅 Créé 2023-02-11
5
kvcache-ai/ktransformers

Un cadre flexible pour expérimenter les optimisations d'inférence/de fine-tuning des LLM hétérogènes

kvcache-ai
⭐ 19,687 Python 👤 kvcache-ai Organization 🕐 Mis à jour 2026-11-13 📅 Créé 2024-07-26
6
ymcui/Chinese-LLaMA-Alpaca

Modèles de Langage à Grande Échelle LLaMA & Alpaca Chinois + Entraînement et Déploiement sur CPU/GPU Locaux (Chinese LLaMA & Alpaca LLMs)

ymcui
⭐ 18,915 Python 👤 ymcui User 🕐 Mis à jour 2026-04-19 📅 Créé 2023-03-15
7
UFund-Me/Qbot

[🔥mise à jour ...] Robot de trading quantitatif IA automatique (déploiement entièrement local) Plateforme de recherche sur les investissements quantitatifs basée sur l'IA. 📃 documentation en ligne : https://ufund-me.github.io/Qbot ✨ :news: qbot-mini: https://github.com/Charmve/iQuant

UFund-Me
⭐ 18,849 Jupyter Notebook 👤 UFund-Me Organization 🕐 Mis à jour 2026-03-11 📅 Créé 2022-11-23
8
RyanCodrai/turbovec

Un index vectoriel construit sur TurboQuant, écrit en Rust avec des bindings Python

RyanCodrai
⭐ 17,505 Rust 👤 RyanCodrai User 🕐 Mis à jour 2026-10-07 📅 Créé 2026-03-26
9
FareedKhan-dev/kimi-k3-in-c

Un modèle Kimi K3 de 2 780 milliards de paramètres effectuant une inférence sur un seul CPU avec 8,24 Go de RAM. C99 portable : sans BLAS, sans framework, sans GPU.

FareedKhan-dev
⭐ 12,523 C 👤 FareedKhan-dev User 🕐 Mis à jour 2026-11-16 📅 Créé 2026-08-01
10
artidoro/qlora

QLoRA : Réglage fin efficace des LLM quantifiés

artidoro
⭐ 10,804 Jupyter Notebook 👤 artidoro User 🕐 Mis à jour 2024-06-10 📅 Créé 2023-05-11
11
bitsandbytes-foundation/bitsandbytes

Modèles linguistiques volumineux accessibles via la quantification k-bit pour PyTorch.

bitsandbytes-foundation
⭐ 8,548 Python 👤 bitsandbytes-foundation Organization 🕐 Mis à jour 2026-11-02 📅 Créé 2021-06-04
12
gpu-mode/lectures

Matériel pour les conférences en mode gpu

gpu-mode
⭐ 7,109 Jupyter Notebook 👤 gpu-mode Organization 🕐 Mis à jour 2026-09-09 📅 Créé 2024-01-20
13
meta-pytorch/gpt-fast

Génération de texte Transformer simple et efficace, native de pytorch, en moins de 1000 lignes de code Python.

meta-pytorch
⭐ 6,244 Python 👤 meta-pytorch Organization 🕐 Mis à jour 2025-08-22 📅 Créé 2023-10-17
14
Lightning-AI/lit-llama

Implémentation du modèle linguistique LLaMA basé sur nanoGPT. Prend en charge le flash attention, la quantification Int8 et GPTQ 4 bits, le réglage fin LoRA et LLaMA-Adapter, le pré-entraînement. Licence Apache 2.0.

Lightning-AI
⭐ 6,084 Python 👤 Lightning-AI Organization 🕐 Mis à jour 2025-07-01 📅 Créé 2023-03-22
15
kornelski/pngquant

Compresseur PNG avec perte — commande pngquant basée sur la bibliothèque libimagequant

kornelski
⭐ 5,773 C 👤 kornelski User 🕐 Mis à jour 2026-10-27 📅 Créé 2009-09-17
16
ztxz16/fastllm

fastllm est une bibliothèque d’inférence de grands modèles de langage haute performance, sans dépendance à un backend, qui vous aide à exécuter efficacement des inférences sur la plupart des appareils.

ztxz16
⭐ 5,133 C++ 👤 ztxz16 User 🕐 Mis à jour 2026-11-21 📅 Créé 2023-05-13
17
OpenNMT/CTranslate2

Moteur d'inférence rapide pour les modèles Transformer

OpenNMT
⭐ 4,758 C++ 👤 OpenNMT Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2019-09-23
18
turboderp-org/exllamav2

Une bibliothèque d'inférence rapide pour exécuter des LLM localement sur des GPU modernes de classe consommateur

turboderp-org
⭐ 4,653 Python 👤 turboderp-org Organization 🕐 Mis à jour 2026-03-04 📅 Créé 2023-08-30
19
CalvinXKY/InfraTech

Partage de connaissances AI Infra et pratique de code : PyTorch, vLLM/SGLang, introduction au framework slime/vime ⚡️, accélération des performances 🚀, bases des grands modèles 🧠, logiciels et matériels IA 🔧, etc.

CalvinXKY
⭐ 4,411 Jupyter Notebook 👤 CalvinXKY User 🕐 Mis à jour 2026-09-20 📅 Créé 2025-11-14
20
thu-ml/SageAttention

[ICLR2025, ICML2025, NeurIPS2025 Spotlight] L'attention quantifiée (Quantized Attention) atteint une accélération de 2 à 5 fois par rapport à FlashAttention, sans perte de métriques de bout en bout sur les modèles de langage, d'image et de vidéo.

thu-ml
⭐ 4,017 Cuda 👤 thu-ml Organization 🕐 Mis à jour 2026-01-17 📅 Créé 2024-10-03
21
vllm-project/llm-compressor

Compression de LLM de pointe, conçue pour l’inférence en production avec vLLM

vllm-project
⭐ 3,981 Python 👤 vllm-project Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2024-06-20
22
nunchux-ai/nunchaku

[ICLR2025 Spotlight] SVDQuant : Absorption des valeurs aberrantes par des composantes de rang faible pour les modèles de diffusion 4 bits

nunchux-ai
⭐ 3,969 Python 👤 nunchux-ai Organization 🕐 Mis à jour 2026-09-06 📅 Créé 2024-11-06
23
NVlabs/VILA

VILA est une famille de modèles de langage visuel (VLM) de pointe pour diverses tâches d'IA multimodales dans les environnements edge, de centre de données et cloud.

NVlabs
⭐ 3,873 Python 👤 NVlabs Organization 🕐 Mis à jour 2026-03-12 📅 Créé 2024-02-23
24
amitshekhariitbhu/ai-engineering-interview-questions

Votre fiche de révision pour l'entretien d'embauche en ingénierie IA – Questions et réponses.

amitshekhariitbhu
⭐ 3,707 Markdown 👤 amitshekhariitbhu User 🕐 Mis à jour 2026-11-21 📅 Créé 2026-03-21
25
mit-han-lab/llm-awq

[MLSys 2024 Best Paper Award] AWQ : Quantification des poids sensible à l'activation pour la compression et l'accélération des LLM

mit-han-lab
⭐ 3,590 Python 👤 mit-han-lab Organization 🕐 Mis à jour 2025-07-17 📅 Créé 2023-06-01
26
huggingface/optimum

Accélérez l'inférence et l'entraînement de 🤗 Transformers, Diffusers, TIMM et Sentence Transformers avec des outils d'optimisation matérielle faciles à utiliser

huggingface
⭐ 3,525 Python 👤 huggingface Organization 🕐 Mis à jour 2026-11-16 📅 Créé 2021-07-20
27
ikawrakow/ik_llama.cpp

Fork de llama.cpp avec des quants SOTA supplémentaires et des performances améliorées

ikawrakow
⭐ 3,411 C++ 👤 ikawrakow User 🕐 Mis à jour 2026-11-21 📅 Créé 2024-06-27
28
huawei-noah/Pretrained-Language-Model

Modèle de langage pré-entraîné et ses techniques d'optimisation associées développées par Huawei Noah's Ark Lab.

huawei-noah
⭐ 3,152 Python 👤 huawei-noah Organization 🕐 Mis à jour 2024-01-22 📅 Créé 2019-12-02
29
mw00/project-maya

Exécutez GLM-5.3 (744B), DeepSeek-V4.1-Flash (748B), MiniMax-M3.1-Flash (428B), GLM-5.3-Flash (321B) et Hy4-Flash (220B) sur vos propres GPU — à partir de 8 Go de VRAM, avec prise en charge de NVIDIA et AMD, un tableau de bord unique et une API compatible avec OpenAI et Anthropic.

mw00
⭐ 3,140 C++ 👤 mw00 User 🕐 Mis à jour 2026-11-21 📅 Créé 2026-10-06
30
pytorch/ao

Quantification native PyTorch pour l'entraînement et l'inférence

pytorch
⭐ 3,032 Python 👤 pytorch Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2023-11-03
31
nunchux-ai/ComfyUI-nunchaku

Plugin ComfyUI de Nunchaku

nunchux-ai
⭐ 2,934 Python 👤 nunchux-ai Organization 🕐 Mis à jour 2026-09-06 📅 Créé 2025-03-12
32
black-forest-labs/flux2

Dépôt d'inférence officiel pour les modèles FLUX.2

black-forest-labs
⭐ 2,886 Python 👤 black-forest-labs Organization 🕐 Mis à jour 2026-03-12 📅 Créé 2025-11-24
33
syv-ai/HyperQwen

Exécutez rapidement de grands modèles Qwen sur les GPU que vous possédez réellement. Qwen3.8-27B sur une seule carte de 24 Go avec vLLM : 127 tok/s pour un seul utilisateur (381 lorsque la réponse cite le prompt), environ 1 035 tok/s avec 64 requêtes simultanées, et un contexte de 150k à 262k. Correctifs vLLM, pipeline de re-quantification et benchmarks.

syv-ai
⭐ 2,778 Python 👤 syv-ai Organization 🕐 Mis à jour 2026-11-10 📅 Créé 2026-08-15
34
qualcomm/aimet

AIMET est une bibliothèque qui fournit des techniques avancées de quantification et de compression pour les modèles de réseaux neuronaux entraînés.

qualcomm
⭐ 2,748 Python 👤 qualcomm Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2020-04-21
35
intel/neural-compressor

Quantification LLM SOTA à faible nombre de bits (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) et sparsité ; techniques de compression de modèles de pointe sur PyTorch, TensorFlow et ONNX Runtime

intel
⭐ 2,733 Python 👤 intel Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2020-07-21
36
stochasticai/xTuring

Créez, personnalisez et contrôlez vos propres LLM. Du prétraitement des données au réglage fin, xTuring offre un moyen simple de personnaliser les LLM open-source. Rejoignez notre communauté Discord : https://discord.gg/TgHXuSJEk6

stochasticai
⭐ 2,680 Python 👤 stochasticai Organization 🕐 Mis à jour 2026-11-05 📅 Créé 2023-03-19
37
adithya-s-k/AI-Engineering.academy

Maîtriser l'IA appliquée, concept par concept

adithya-s-k
⭐ 2,388 Jupyter Notebook 👤 adithya-s-k User 🕐 Mis à jour 2026-02-27 📅 Créé 2023-10-05
38
dvmazur/mixtral-offloading

Exécutez les modèles Mixtral-8x7B dans Colab ou sur des ordinateurs de bureau grand public

dvmazur
⭐ 2,327 Python 👤 dvmazur User 🕐 Mis à jour 2024-04-08 📅 Créé 2023-12-15
39
aixcoder-plugin/aiXcoder-7B

dépôt officiel du modèle linguistique de grande taille pour le code aiXcoder-7B

aixcoder-plugin
⭐ 2,273 Python 👤 aixcoder-plugin Organization 🕐 Mis à jour 2025-07-09 📅 Créé 2024-03-30
40
666DZY666/micronet

micronet, une bibliothèque de compression et de déploiement de modèles. Compression : 1、quantification : entraînement conscient de la quantification(QAT), High-Bit(>2b)(DoReFa/Quantization and Training of Neural Networks for Efficient Integer-Arithmetic-Only Inference)、Low-Bit(≤2b)/Ternaire et Binaire(TWN/BNN/XNOR-Net) ; quantification post-entraînement(PTQ), 8-bit(tensorrt) ; 2、élagage : normal、régulier et élagage de canaux convolutifs en groupe ; 3、structure de convolution en groupe ; 4、fusion de normalisation par lots pour la quantification. Déploiement : tensorrt, fp32/fp16/in

666DZY666
⭐ 2,270 Python 👤 666DZY666 User 🕐 Mis à jour 2025-05-06 📅 Créé 2019-12-04
41
IST-DASLab/gptq

Code pour le document ICLR 2023 "GPTQ: Accurate Post-training Quantization of Generative Pretrained Transformers".

IST-DASLab
⭐ 2,241 Python 👤 IST-DASLab Organization 🕐 Mis à jour 2024-03-27 📅 Créé 2022-10-19
42
RightNow-AI/picolm

Exécuter un LLM de 1 milliard de paramètres sur une carte de 10 $ avec 256 Mo de RAM.

RightNow-AI
⭐ 2,218 C 👤 RightNow-AI Organization 🕐 Mis à jour 2026-02-22 📅 Créé 2026-02-19
43
bigcode-project/starcoder2

Maison de StarCoder2 !

bigcode-project
⭐ 2,018 Python 👤 bigcode-project Organization 🕐 Mis à jour 2024-03-21 📅 Créé 2023-12-08
44
intel/intel-extension-for-pytorch

Un package Python pour étendre l'officiel PyTorch qui peut facilement obtenir des performances sur la plateforme Intel

intel
⭐ 2,012 Python 👤 intel Organization 🕐 Mis à jour 2026-03-13 📅 Créé 2020-04-15
45
turboderp-org/exllamav3

Une bibliothèque optimisée de quantification et d'inférence pour exécuter localement des LLM sur des GPU grand public modernes

turboderp-org
⭐ 1,853 Python 👤 turboderp-org Organization 🕐 Mis à jour 2026-11-19 📅 Créé 2025-04-06
46
Tencent/AngelSlim

Kit d'outils de compression de modèles conçu pour une meilleure convivialité, exhaustivité et efficacité.

Tencent
⭐ 1,811 Python 👤 Tencent Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2025-07-04
47
OpenPPL/ppq

PPL Quantization Tool (PPQ) est un puissant outil de quantification hors ligne pour réseaux neuronaux.

OpenPPL
⭐ 1,774 Python 👤 OpenPPL Organization 🕐 Mis à jour 2024-03-28 📅 Créé 2021-12-30
48
Anemll/Anemll

Artificial Neural Engine Machine Learning Library

Anemll
⭐ 1,710 Python 👤 Anemll User 🕐 Mis à jour 2026-10-31 📅 Créé 2025-01-06
49
intel/auto-round

Efficacité de la quantification après entraînement, précision de la quantification avec entraînement conscient

intel
⭐ 1,706 Python 👤 intel Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2024-01-04
50
microsoft/onnxruntime-inference-examples

Exemples d'utilisation d'ONNX Runtime pour l'inférence en machine learning.

microsoft
⭐ 1,703 C++ 👤 microsoft Organization 🕐 Mis à jour 2026-11-10 📅 Créé 2021-04-09

Foire aux questions

1

Quel est le dépôt #quantization le plus populaire sur GitHub ?

Le projet #quantization open source le mieux classé sur GitHub est hiyouga/LlamaFactory, avec 76,171 étoiles. Affinage efficace unifié de plus de 100 LLM et VLM (ACL 2024)

2

Quels langages de programmation sont les plus utilisés dans les dépôts #quantization ?

Parmi les projets #quantization les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, C++, Jupyter Notebook, C.

3

Comment le classement des dépôts #quantization est-il calculé ?

Nous suivons 109 dépôts open source actifs associés à #quantization (500+ étoiles), totalisant 487,465 étoiles, avec une moyenne de 4,472 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.