Git Stars Git Stars

#quantization Dépôts

109
Total des Dépôts
487,465
Nombre total d'étoiles
4,472
Moyenne d'Étoiles/Dépôt
51
open-mmlab/mmrazor

OpenMMLab Model Compression Toolbox et Benchmark.

open-mmlab
⭐ 1,653 Python 👤 open-mmlab Organization 🕐 Mis à jour 2024-06-11 📅 Créé 2021-12-22
52
PaddlePaddle/PaddleSlim

PaddleSlim est une bibliothèque open-source pour la compression de modèles profonds et la recherche d'architecture.

PaddlePaddle
⭐ 1,613 Python 👤 PaddlePaddle Organization 🕐 Mis à jour 2026-01-04 📅 Créé 2019-12-16
53
pytorch/FBGEMM

FB (Facebook) + GEMM (Multiplication générale de matrice par matrice) - https://code.fb.com/ml-applications/fbgemm/

pytorch
⭐ 1,604 C++ 👤 pytorch Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2018-09-24
54
Xilinx/brevitas

Brevitas : Quantisation de réseaux de neurones dans PyTorch

Xilinx
⭐ 1,601 Python 👤 Xilinx Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2018-07-10
55
tensorflow/model-optimization

Un kit d'outils pour optimiser les modèles ML pour le déploiement sur Keras et TensorFlow, incluant la quantification et l'élagage.

tensorflow
⭐ 1,584 Python 👤 tensorflow Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2018-10-31
56
RWKV/rwkv.cpp

Inférence INT4/INT5/INT8 et FP16 sur CPU pour le modèle linguistique RWKV

RWKV
⭐ 1,570 C++ 👤 RWKV Organization 🕐 Mis à jour 2025-03-23 📅 Créé 2023-03-30
57
AnswerDotAI/fsdp_qlora

Entraînement des LLM avec QLoRA + FSDP

AnswerDotAI
⭐ 1,534 Jupyter Notebook 👤 AnswerDotAI Organization 🕐 Mis à jour 2024-11-09 📅 Créé 2024-01-14
58
synchopate/llama-modchip

Inférence sur CPU sans GPU pour les modèles MoE de 30B à 284B (Qwen3.8 176.5B certifié avec cache froide dans Cgroup v2 à 28,26/48,35 Gio, DeepSeek-V4 284B, Nemotron-30B) + RouteCrack 2.0.

synchopate
⭐ 1,398 Python 👤 synchopate User 🕐 Mis à jour 2026-11-21 📅 Créé 2026-10-29
59
RahulSChand/gpu_poor

Calculez les exigences en mémoire GPU/token pour tout LLM. Prend en charge la quantification llama.cpp/ggml/bnb/QLoRA

RahulSChand
⭐ 1,383 JavaScript 👤 RahulSChand User 🕐 Mis à jour 2024-12-03 📅 Créé 2023-09-12
60
open-edge-platform/geti

Créez, entraînez, optimisez et exécutez des modèles de vision par ordinateur en local, des images brutes à l’inférence en temps réel. Open source, optimisé pour Intel® XPU (CUDA est également pris en charge).

open-edge-platform
⭐ 1,379 Python 👤 open-edge-platform Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2018-10-26
62
huawei-noah/Efficient-Computing

Méthodes de calcul efficaces développées par Huawei Noah's Ark Lab

huawei-noah
⭐ 1,306 Jupyter Notebook 👤 huawei-noah Organization 🕐 Mis à jour 2024-11-05 📅 Créé 2019-09-04
63
ModelCloud/GPTQModel

Boîte à outils de quantification (compression) de modèles LLM, avec prise en charge de l’accélération matérielle pour Nvidia CUDA, AMD ROCm, Intel XPU, Tenstorrent, les NPU Huawei Ascend et les processeurs Intel/AMD/Apple via HF, vLLM et SGLang.

ModelCloud
⭐ 1,294 Python 👤 ModelCloud Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2024-06-17
64
thu-ml/SpargeAttn

[ICML2025] SpargeAttention : Une attention éparse sans entraînement qui accélère l'inférence de n'importe quel modèle.

thu-ml
⭐ 1,269 Cuda 👤 thu-ml Organization 🕐 Mis à jour 2026-02-25 📅 Créé 2025-02-25
65
openvinotoolkit/nncf

Framework de compression de réseau neuronal pour une inférence OpenVINO™ améliorée

openvinotoolkit
⭐ 1,221 Python 👤 openvinotoolkit Organization 🕐 Mis à jour 2026-11-18 📅 Créé 2020-05-13
66
gpu-mode/awesomeMLSys

Une liste d'intégration de systèmes ML

gpu-mode
⭐ 1,154 👤 gpu-mode Organization 🕐 Mis à jour 2026-02-19 📅 Créé 2024-05-06
67
HarryR/z80ai

Z80-μLM est un modèle de langage quantifié de 2 bits, suffisamment petit pour fonctionner sur un processeur Z80 8 bits. Entraînez des modèles conversationnels en Python, exportez-les en tant que binaires CP/M .COM et discutez avec votre ordinateur vintage.

HarryR
⭐ 1,141 Python 👤 HarryR User 🕐 Mis à jour 2026-04-29 📅 Créé 2025-12-21
68
Xilinx/finn

Compilateur dataflow pour l'inférence QNN sur FPGA

Xilinx
⭐ 1,093 Python 👤 Xilinx Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2018-06-29
69
hyperionaidev/smolmaxxing

Maximiser la capacité à exécuter différents LLM sur les appareils les plus petits possible

hyperionaidev
⭐ 1,079 C 👤 hyperionaidev Organization 🕐 Mis à jour 2026-11-19 📅 Créé 2026-11-04
70
huggingface/optimum-quanto

Un backend de quantification PyTorch pour Optimum

huggingface
⭐ 1,055 Python 👤 huggingface Organization 🕐 Mis à jour 2026-11-17 📅 Créé 2023-09-19
71
darrencxl0301/StageRAG

Un plan pour la construction de systèmes RAG prêts pour la production qui minimisent les hallucinations, avec des pipelines commutables à 3 étapes (Vitesse) et 4 étapes (Précision).

darrencxl0301
⭐ 1,036 Python 👤 darrencxl0301 User 🕐 Mis à jour 2025-10-13 📅 Créé 2025-10-01
72
MAC-AutoML/MindPipe

Un framework puissant de compression de modèles pour les LLMs et LVLMs, adapté aux GPU NVIDIA et aux NPU Huawei Ascend.

MAC-AutoML
⭐ 1,013 Python 👤 MAC-AutoML Organization 🕐 Mis à jour 2026-08-11 📅 Créé 2026-01-22
73
PINTO0309/onnx2tf

Un outil pour convertir les fichiers ONNX en LiteRT/TFLite/TensorFlow, code natif PyTorch (nn.Module), TorchScript (.pt), state_dict (.pt), Exported Program (.pt2) et Dynamo ONNX. Il prend également en charge la conversion directe de LiteRT vers PyTorch.

PINTO0309
⭐ 1,004 Python 👤 PINTO0309 User 🕐 Mis à jour 2026-09-14 📅 Créé 2022-09-27
74
IST-DASLab/marlin

Un noyau d'inférence LLM FP16xINT4 qui peut atteindre des accélérations quasi idéales d'environ 4x jusqu'à des tailles de lot moyennes de 16 à 32 jetons.

IST-DASLab
⭐ 973 Python 👤 IST-DASLab Organization 🕐 Mis à jour 2024-09-04 📅 Créé 2024-01-17
75
OpenGVLab/OmniQuant

[ICLR2024 Spotlight] OmniQuant est une technique de quantification simple et puissante pour les LLM.

OpenGVLab
⭐ 970 Python 👤 OpenGVLab Organization 🕐 Mis à jour 2025-11-26 📅 Créé 2023-08-22
76
dropbox/hqq

Implémentation officielle de Half-Quadratic Quantization (HQQ)

dropbox
⭐ 963 Python 👤 dropbox Organization 🕐 Mis à jour 2026-02-26 📅 Créé 2023-11-07
77
ImageOptim/libimagequant

Bibliothèque de quantification de palette qui alimente pngquant et d'autres optimiseurs PNG

ImageOptim
⭐ 940 Rust 👤 ImageOptim Organization 🕐 Mis à jour 2026-06-21 📅 Créé 2016-11-03
78
mit-han-lab/TinyChatEngine

TinyChatEngine: Bibliothèque d'inférence LLM sur appareil

mit-han-lab
⭐ 934 C++ 👤 mit-han-lab Organization 🕐 Mis à jour 2024-07-04 📅 Créé 2023-05-24
79
facebookresearch/mobile-vision

Modèles de vision mobile et code

facebookresearch
⭐ 923 Python 👤 facebookresearch Organization 🕐 Mis à jour 2026-10-21 📅 Créé 2019-01-09
80
mit-han-lab/tinyengine

[NeurIPS 2020] MCUNet: Tiny Deep Learning sur les appareils IoT ; [NeurIPS 2021] MCUNetV2 : Inférence basée sur des patchs à haut rendement mémoire pour le Tiny Deep Learning ; [NeurIPS 2022] MCUNetV3 : Entraînement sur appareil avec moins de 256 Ko de mémoire

mit-han-lab
⭐ 916 C 👤 mit-han-lab Organization 🕐 Mis à jour 2024-11-27 📅 Créé 2022-08-24
81
amd/RyzenAI-SW

AMD Ryzen™ AI Software comprend les outils et les bibliothèques d'exécution pour optimiser et déployer l'inférence IA sur les PC dotés de AMD Ryzen™ AI.

amd
⭐ 902 Python 👤 amd Organization 🕐 Mis à jour 2026-11-18 📅 Créé 2023-05-12
82
whitecircle/halo

Halo est un framework open source développé par White Circle pour entraîner des modèles de langage de grande taille et des modèles multimodaux

whitecircle
⭐ 868 Python 👤 whitecircle Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2026-08-26
83
IST-DASLab/sparsegpt

Code pour l'article ICML 2023 "SparseGPT: Massive Language Models Can Be Accurately Pruned in One-Shot".

IST-DASLab
⭐ 859 Python 👤 IST-DASLab Organization 🕐 Mis à jour 2024-08-20 📅 Créé 2023-03-20
84
mit-han-lab/omniserve

[MLSys'25] QServe : Quantification W4A8KV4 et co-conception de systèmes pour un service LLM efficace ; [MLSys'25] LServe : Service LLM efficace pour les longues séquences avec attention éparse unifiée

mit-han-lab
⭐ 840 C++ 👤 mit-han-lab Organization 🕐 Mis à jour 2025-03-06 📅 Créé 2024-05-06
85
warpfront/hipfire

Moteur d'inférence LLM natif RDNA en Rust.

warpfront
⭐ 826 Rust 👤 warpfront Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2026-03-21
86
Zhen-Dong/Awesome-Quantization-Papers

Liste des articles liés à la quantification des réseaux neuronaux dans les conférences et revues d'IA récentes.

Zhen-Dong
⭐ 825 👤 Zhen-Dong User 🕐 Mis à jour 2025-03-27 📅 Créé 2022-01-01
87
datawhalechina/llm-algo-leetcode

Algorithmes et systèmes de LLM en pratique avec PyTorch, Triton et CUDA. « Tutoriel sur les algorithmes et systèmes de LLM » : architectures et entraînement des modèles, post-entraînement, accélération de l’inférence, optimisation des performances et des opérateurs, avec des exercices Notebook, des explications des réponses, des tests et des expériences.

datawhalechina
⭐ 811 Jupyter Notebook 👤 datawhalechina Organization 🕐 Mis à jour 2026-11-16 📅 Créé 2026-04-01
88
huggingface/ratchet

Un framework ML multiplateforme pour navigateur.

huggingface
⭐ 771 Rust 👤 huggingface Organization 🕐 Mis à jour 2026-09-24 📅 Créé 2024-01-11
89
ModelTC/LightCompress

[EMNLP 2024 & AAAI 2026] Une boîte à outils puissante pour compresser les grands modèles, y compris les LLM, les VLM et les modèles génératifs vidéo.

ModelTC
⭐ 755 Python 👤 ModelTC Organization 🕐 Mis à jour 2026-05-14 📅 Créé 2024-03-06
90
prabanta-dev/janas

37 tok/s avec Qwen3-Next-80B (48 Go) sur un ordinateur portable de 32 Go ; 24 sans spéculation, contre 2,8 avec llama.cpp ; lecture à 62 contre 16 tok/s. Plus rapide que llama.cpp sur les 13 modèles comparés en Q4_K_M. Des LLM plus grands que votre RAM, en C pur, sur CPU ou GPU.

prabanta-dev
⭐ 738 C 👤 prabanta-dev Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2026-09-20
91
hailo-ai/hailo_model_zoo

Le Zoo de Modèles Hailo comprend des modèles pré-entraînés et un environnement complet pour la construction et l'évaluation

hailo-ai
⭐ 725 Python 👤 hailo-ai Organization 🕐 Mis à jour 2026-11-15 📅 Créé 2021-07-13
92
SqueezeAILab/SqueezeLLM

[ICML 2024] SqueezeLLM : Quantification dense et parcimonieuse

SqueezeAILab
⭐ 710 Python 👤 SqueezeAILab Organization 🕐 Mis à jour 2024-08-13 📅 Créé 2023-06-12
94
wanshuiyin/ARIS-in-AI-Offer

Fiches de préparation bilingues (chinois + anglais) aux entretiens de ML / LLM / diffusion / agents pour le recrutement d’automne en IA — générées par ARIS /interview-cheatsheet, puis rendues par /render-html en fichiers HTML autonomes lisibles partout — ainsi qu’un générateur de pages d’accueil académiques vérifié par recoupement CV→DBLP et des articles longs rédigés par l’auteur 🌱

wanshuiyin
⭐ 661 Python 👤 wanshuiyin User 🕐 Mis à jour 2026-11-18 📅 Créé 2026-05-19
95
huawei-csl/SINQ

Bienvenue dans le dépôt officiel de SINQ ! Une méthode de quantification novatrice, rapide et de haute qualité conçue pour rendre tout Grand Modèle de Langage plus petit tout en préservant la précision [ICML 2026]

huawei-csl
⭐ 638 Python 👤 huawei-csl Organization 🕐 Mis à jour 2026-05-08 📅 Créé 2025-09-26
96
ServiceStack/llms

Client LLM, API Serveur et UI

ServiceStack
⭐ 631 JavaScript 👤 ServiceStack Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2025-09-23
97
hahnyuan/LLM-Viewer

Analyser l'inférence des grands modèles de langage (LLM). Analyser des aspects tels que le calcul, le stockage, la transmission et le modèle roofline du matériel dans une interface conviviale.

hahnyuan
⭐ 600 Python 👤 hahnyuan User 🕐 Mis à jour 2024-09-11 📅 Créé 2024-01-07
98
google/qkeras

QKeras : une bibliothèque d'apprentissage profond de quantification pour Tensorflow Keras

google
⭐ 583 Python 👤 google Organization 🕐 Mis à jour 2026-02-23 📅 Créé 2019-08-06
99
MPolaris/onnx2tflite

Outil pour onnx->keras ou onnx->tflite. J'espère que cet outil pourra vous aider.

MPolaris
⭐ 577 Python 👤 MPolaris User 🕐 Mis à jour 2026-06-21 📅 Créé 2022-04-11
100
csyhhu/Awesome-Deep-Neural-Network-Compression

Résumé, Code pour la Quantification de Réseaux de Neurones Profonds

csyhhu
⭐ 562 Python 👤 csyhhu User 🕐 Mis à jour 2026-09-01 📅 Créé 2019-02-28