Git Stars Git Stars

#quantization Repositórios

Descubra 109 repositórios ativos de código aberto no GitHub marcados com #quantization, acumulando um total de 487,465 estrelas (uma média de 4,472 por projeto). O líder deste tópico é hiyouga/LlamaFactory, com 76,171 estrelas.

109
Total de Repositórios
487,465
Total de estrelas
4,472
Média de Estrelas/Repositório

109 repositórios no total

1
hiyouga/LlamaFactory

Ajuste Fino Unificado e Eficiente de Mais de 100 LLMs e VLMs (ACL 2024)

hiyouga
⭐ 76,171 Python 👤 hiyouga User 🕐 Atualizado 2026-11-21 📅 Criado 2023-05-28
2
xai-org/grok-1

Lançamento aberto do Grok

xai-org
⭐ 50,567 Python 👤 xai-org Organization 🕐 Atualizado 2024-08-30 📅 Criado 2024-03-17
3
microsoft/BitNet

Estrutura de inferência oficial para LLMs de 1 bit

microsoft
⭐ 42,358 C++ 👤 microsoft Organization 🕐 Atualizado 2026-07-27 📅 Criado 2024-08-05
4
SYSTRAN/faster-whisper

Transcrição Whisper mais rápida com CTranslate2

SYSTRAN
⭐ 26,924 Python 👤 SYSTRAN Organization 🕐 Atualizado 2026-11-12 📅 Criado 2023-02-11
5
kvcache-ai/ktransformers

Um Framework Flexível para Experimentar Otimizações de Inferência/Ajuste Fino de LLM Heterogêneos

kvcache-ai
⭐ 19,687 Python 👤 kvcache-ai Organization 🕐 Atualizado 2026-11-13 📅 Criado 2024-07-26
6
ymcui/Chinese-LLaMA-Alpaca

Modelos de Grande Linguagem LLaMA e Alpaca Chineses + Treinamento e Implantação Local em CPU/GPU (Chinese LLaMA & Alpaca LLMs)

ymcui
⭐ 18,915 Python 👤 ymcui User 🕐 Atualizado 2026-04-19 📅 Criado 2023-03-15
7
UFund-Me/Qbot

[🔥atualizando ...] Robô de Negociação Quantitativa Automática com IA (implantação totalmente local) Plataforma de Pesquisa de Investimento Quantitativa Alimentada por IA. 📃 documentação online: https://ufund-me.github.io/Qbot ✨ :notícias: qbot-mini: https://github.com/Charmve/iQuant

UFund-Me
⭐ 18,849 Jupyter Notebook 👤 UFund-Me Organization 🕐 Atualizado 2026-03-11 📅 Criado 2022-11-23
8
RyanCodrai/turbovec

Um índice vetorial construído sobre TurboQuant, escrito em Rust com bindings Python

RyanCodrai
⭐ 17,505 Rust 👤 RyanCodrai User 🕐 Atualizado 2026-10-07 📅 Criado 2026-03-26
9
FareedKhan-dev/kimi-k3-in-c

Um modelo Kimi K3 de 2,78 trilhões de parâmetros executando inferência em uma única CPU com 8,24 GB de RAM. C99 portátil: sem BLAS, sem framework, sem GPU.

FareedKhan-dev
⭐ 12,523 C 👤 FareedKhan-dev User 🕐 Atualizado 2026-11-16 📅 Criado 2026-08-01
10
artidoro/qlora

QLoRA: Ajuste Fino Eficiente de LLMs Quantizados

artidoro
⭐ 10,804 Jupyter Notebook 👤 artidoro User 🕐 Atualizado 2024-06-10 📅 Criado 2023-05-11
11
bitsandbytes-foundation/bitsandbytes

Modelos de linguagem grandes acessíveis via quantização k-bit para PyTorch.

bitsandbytes-foundation
⭐ 8,548 Python 👤 bitsandbytes-foundation Organization 🕐 Atualizado 2026-11-02 📅 Criado 2021-06-04
12
gpu-mode/lectures

Material para palestras sobre modo gpu

gpu-mode
⭐ 7,109 Jupyter Notebook 👤 gpu-mode Organization 🕐 Atualizado 2026-09-09 📅 Criado 2024-01-20
13
meta-pytorch/gpt-fast

Geração de texto transformador nativo de PyTorch, simples e eficiente, em <1000 LOC de Python.

meta-pytorch
⭐ 6,244 Python 👤 meta-pytorch Organization 🕐 Atualizado 2025-08-22 📅 Criado 2023-10-17
14
Lightning-AI/lit-llama

Implementação do modelo de linguagem LLaMA baseado no nanoGPT. Suporta flash attention, quantização Int8 e GPTQ de 4 bits, ajuste fino LoRA e LLaMA-Adapter, e pré-treinamento. Licenciado sob Apache 2.0.

Lightning-AI
⭐ 6,084 Python 👤 Lightning-AI Organization 🕐 Atualizado 2025-07-01 📅 Criado 2023-03-22
15
kornelski/pngquant

Compressor PNG com perdas — comando pngquant baseado na biblioteca libimagequant

kornelski
⭐ 5,773 C 👤 kornelski User 🕐 Atualizado 2026-10-27 📅 Criado 2009-09-17
16
ztxz16/fastllm

fastllm é uma biblioteca de inferência de modelos de linguagem grandes de alto desempenho, sem dependências de backend, que ajuda você a executar inferências com eficiência na maioria dos dispositivos.

ztxz16
⭐ 5,133 C++ 👤 ztxz16 User 🕐 Atualizado 2026-11-21 📅 Criado 2023-05-13
17
OpenNMT/CTranslate2

Motor de inferência rápido para modelos Transformer

OpenNMT
⭐ 4,758 C++ 👤 OpenNMT Organization 🕐 Atualizado 2026-11-21 📅 Criado 2019-09-23
18
turboderp-org/exllamav2

Uma biblioteca de inferência rápida para executar LLMs localmente em GPUs de classe de consumidor modernas

turboderp-org
⭐ 4,653 Python 👤 turboderp-org Organization 🕐 Atualizado 2026-03-04 📅 Criado 2023-08-30
19
CalvinXKY/InfraTech

Compartilhamento de conhecimento de AI Infra e prática de código: PyTorch, vLLM/SGLang, introdução ao framework slime/vime ⚡️, aceleração de desempenho 🚀, fundamentos de modelos grandes 🧠, software e hardware de IA 🔧, etc.

CalvinXKY
⭐ 4,411 Jupyter Notebook 👤 CalvinXKY User 🕐 Atualizado 2026-09-20 📅 Criado 2025-11-14
20
thu-ml/SageAttention

[ICLR2025, ICML2025, NeurIPS2025 Spotlight] O Quantized Attention (Atenção Quantizada) alcança uma aceleração de 2 a 5 vezes em comparação com o FlashAttention, sem perder métricas de ponta a ponta em modelos de linguagem, imagem e vídeo.

thu-ml
⭐ 4,017 Cuda 👤 thu-ml Organization 🕐 Atualizado 2026-01-17 📅 Criado 2024-10-03
21
vllm-project/llm-compressor

Compressão de LLM de última geração, desenvolvida para inferência em produção com vLLM

vllm-project
⭐ 3,981 Python 👤 vllm-project Organization 🕐 Atualizado 2026-11-21 📅 Criado 2024-06-20
22
nunchux-ai/nunchaku

[Destaque ICLR2025] SVDQuant: Absorvendo Outliers por Componentes de Baixa Patente para Modelos de Difusão de 4 Bits

nunchux-ai
⭐ 3,969 Python 👤 nunchux-ai Organization 🕐 Atualizado 2026-09-06 📅 Criado 2024-11-06
23
NVlabs/VILA

VILA é uma família de modelos de linguagem e visão (VLMs) de última geração para diversas tarefas de IA multimodal em edge, data center e nuvem.

NVlabs
⭐ 3,873 Python 👤 NVlabs Organization 🕐 Atualizado 2026-03-12 📅 Criado 2024-02-23
24
amitshekhariitbhu/ai-engineering-interview-questions

Sua Folha de Referência para Entrevista de Engenharia de IA – Perguntas e Respostas.

amitshekhariitbhu
⭐ 3,707 Markdown 👤 amitshekhariitbhu User 🕐 Atualizado 2026-11-21 📅 Criado 2026-03-21
25
mit-han-lab/llm-awq

[Prêmio de Melhor Artigo MLSys 2024] AWQ: Quantização de Pesos Ciente de Ativação para Compressão e Aceleração de LLM

mit-han-lab
⭐ 3,590 Python 👤 mit-han-lab Organization 🕐 Atualizado 2025-07-17 📅 Criado 2023-06-01
26
huggingface/optimum

🚀 Acelere a inferência e o treinamento de 🤗 Transformers, Diffusers, TIMM e Sentence Transformers com ferramentas de otimização de hardware fáceis de usar

huggingface
⭐ 3,525 Python 👤 huggingface Organization 🕐 Atualizado 2026-11-16 📅 Criado 2021-07-20
27
ikawrakow/ik_llama.cpp

fork do llama.cpp com quants SOTA adicionais e desempenho aprimorado

ikawrakow
⭐ 3,411 C++ 👤 ikawrakow User 🕐 Atualizado 2026-11-21 📅 Criado 2024-06-27
28
huawei-noah/Pretrained-Language-Model

Modelo de linguagem pré-treinado e suas técnicas de otimização relacionadas desenvolvidas pelo Huawei Noah's Ark Lab.

huawei-noah
⭐ 3,152 Python 👤 huawei-noah Organization 🕐 Atualizado 2024-01-22 📅 Criado 2019-12-02
29
mw00/project-maya

Execute GLM-5.3 (744B), DeepSeek-V4.1-Flash (748B), MiniMax-M3.1-Flash (428B), GLM-5.3-Flash (321B) e Hy4-Flash (220B) nas suas próprias GPUs — a partir de 8 GB de VRAM, com suporte para NVIDIA e AMD, um único painel e uma API compatível com OpenAI e Anthropic.

mw00
⭐ 3,140 C++ 👤 mw00 User 🕐 Atualizado 2026-11-21 📅 Criado 2026-10-06
30
pytorch/ao

Quantização nativa do PyTorch para treinamento e inferência

pytorch
⭐ 3,032 Python 👤 pytorch Organization 🕐 Atualizado 2026-11-21 📅 Criado 2023-11-03
31
nunchux-ai/ComfyUI-nunchaku

Plugin ComfyUI do Nunchaku

nunchux-ai
⭐ 2,934 Python 👤 nunchux-ai Organization 🕐 Atualizado 2026-09-06 📅 Criado 2025-03-12
32
black-forest-labs/flux2

Repositório oficial de inferência para modelos FLUX.2

black-forest-labs
⭐ 2,886 Python 👤 black-forest-labs Organization 🕐 Atualizado 2026-03-12 📅 Criado 2025-11-24
33
syv-ai/HyperQwen

Execute modelos Qwen grandes rapidamente nas GPUs que você realmente possui. Qwen3.8-27B em uma única placa de 24 GB com vLLM: 127 tok/s para um único usuário (381 quando a resposta cita o prompt), cerca de 1.035 tok/s com 64 requisições simultâneas e contexto de 150k–262k. Patches do vLLM, pipeline de requantização e benchmarks.

syv-ai
⭐ 2,778 Python 👤 syv-ai Organization 🕐 Atualizado 2026-11-10 📅 Criado 2026-08-15
34
qualcomm/aimet

AIMET é uma biblioteca que fornece técnicas avançadas de quantização e compressão para modelos de redes neurais treinadas.

qualcomm
⭐ 2,748 Python 👤 qualcomm Organization 🕐 Atualizado 2026-11-21 📅 Criado 2020-04-21
35
intel/neural-compressor

Quantização LLM de baixo bit SOTA (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) e esparsidade; técnicas líderes de compressão de modelos em PyTorch, TensorFlow e ONNX Runtime

intel
⭐ 2,733 Python 👤 intel Organization 🕐 Atualizado 2026-11-20 📅 Criado 2020-07-21
36
stochasticai/xTuring

Construa, personalize e controle seus próprios LLMs. Desde o pré-processamento de dados até o ajuste fino (fine-tuning), o xTuring oferece uma maneira fácil de personalizar LLMs de código aberto. Junte-se à nossa comunidade no Discord: https://discord.gg/TgHXuSJEk6

stochasticai
⭐ 2,680 Python 👤 stochasticai Organization 🕐 Atualizado 2026-11-05 📅 Criado 2023-03-19
37
adithya-s-k/AI-Engineering.academy

Dominando a IA Aplicada, Um Conceito de Cada Vez

adithya-s-k
⭐ 2,388 Jupyter Notebook 👤 adithya-s-k User 🕐 Atualizado 2026-02-27 📅 Criado 2023-10-05
38
dvmazur/mixtral-offloading

Execute os modelos Mixtral-8x7B no Colab ou em desktops de consumo

dvmazur
⭐ 2,327 Python 👤 dvmazur User 🕐 Atualizado 2024-04-08 📅 Criado 2023-12-15
39
aixcoder-plugin/aiXcoder-7B

repositório oficial do Modelo de Linguagem Grande de Código aiXcoder-7B

aixcoder-plugin
⭐ 2,273 Python 👤 aixcoder-plugin Organization 🕐 Atualizado 2025-07-09 📅 Criado 2024-03-30
40
666DZY666/micronet

micronet, uma biblioteca de compressão e implantação de modelos. compressão: 1、quantização: treinamento ciente de quantização (QAT), High-Bit(>2b)(DoReFa/Quantization and Training of Neural Networks for Efficient Integer-Arithmetic-Only Inference), Low-Bit(≤2b)/Ternary and Binary(TWN/BNN/XNOR-Net); quantização pós-treinamento (PTQ), 8-bit(tensorrt); 2、 poda: poda de canal de convolução normal, regular e em grupo; 3、 estrutura de convolução em grupo; 4、 fusão de normalização em lote para quantização. implantação: tensorrt, fp32/fp16/in

666DZY666
⭐ 2,270 Python 👤 666DZY666 User 🕐 Atualizado 2025-05-06 📅 Criado 2019-12-04
41
IST-DASLab/gptq

Código para o artigo da ICLR 2023 "GPTQ: Quantização Pós-Treinamento Precisa de Transformers Generativos Pré-treinados".

IST-DASLab
⭐ 2,241 Python 👤 IST-DASLab Organization 🕐 Atualizado 2024-03-27 📅 Criado 2022-10-19
42
RightNow-AI/picolm

Execute um LLM de 1 bilhão de parâmetros em uma placa de 10 dólares com 256 MB de RAM.

RightNow-AI
⭐ 2,218 C 👤 RightNow-AI Organization 🕐 Atualizado 2026-02-22 📅 Criado 2026-02-19
43
bigcode-project/starcoder2

Casa do StarCoder2!

bigcode-project
⭐ 2,018 Python 👤 bigcode-project Organization 🕐 Atualizado 2024-03-21 📅 Criado 2023-12-08
44
intel/intel-extension-for-pytorch

Um pacote Python para estender o PyTorch oficial que pode facilmente obter desempenho na plataforma Intel

intel
⭐ 2,012 Python 👤 intel Organization 🕐 Atualizado 2026-03-13 📅 Criado 2020-04-15
45
turboderp-org/exllamav3

Uma biblioteca otimizada de quantização e inferência para executar LLMs localmente em GPUs modernas de classe de consumidor

turboderp-org
⭐ 1,853 Python 👤 turboderp-org Organization 🕐 Atualizado 2026-11-19 📅 Criado 2025-04-06
46
Tencent/AngelSlim

Kit de ferramentas de compressão de modelos projetado para maior usabilidade, abrangência e eficiência.

Tencent
⭐ 1,811 Python 👤 Tencent Organization 🕐 Atualizado 2026-11-20 📅 Criado 2025-07-04
47
OpenPPL/ppq

PPL Quantization Tool (PPQ) é uma poderosa ferramenta de quantização de rede neural offline.

OpenPPL
⭐ 1,774 Python 👤 OpenPPL Organization 🕐 Atualizado 2024-03-28 📅 Criado 2021-12-30
48
Anemll/Anemll

Biblioteca de Aprendizado de Máquina com Motor Neural Artificial

Anemll
⭐ 1,710 Python 👤 Anemll User 🕐 Atualizado 2026-10-31 📅 Criado 2025-01-06
49
intel/auto-round

Eficiência da quantização pós-treinamento, precisão da quantização com treinamento consciente

intel
⭐ 1,706 Python 👤 intel Organization 🕐 Atualizado 2026-11-21 📅 Criado 2024-01-04
50
microsoft/onnxruntime-inference-examples

Exemplos de uso do ONNX Runtime para inferência de aprendizado de máquina.

microsoft
⭐ 1,703 C++ 👤 microsoft Organization 🕐 Atualizado 2026-11-10 📅 Criado 2021-04-09

Perguntas Frequentes

1

Qual é o repositório de #quantization mais popular no GitHub?

O projeto de código aberto de #quantization mais bem classificado no GitHub é hiyouga/LlamaFactory, com 76,171 estrelas. Ajuste Fino Unificado e Eficiente de Mais de 100 LLMs e VLMs (ACL 2024)

2

Quais linguagens de programação são mais usadas nos repositórios de #quantization?

Entre os projetos de #quantization mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, C++, Jupyter Notebook, C.

3

Como é calculada a classificação dos repositórios de #quantization?

Acompanhamos 109 repositórios ativos de código aberto marcados com #quantization (com mais de 500 estrelas), totalizando 487,465 estrelas e uma média de 4,472 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.