Git Stars Git Stars

#quantization Repositorios

Descubre 109 repositorios activos de código abierto de GitHub etiquetados con #quantization, que acumulan 487,465 estrellas en total (una media de 4,472 estrellas por proyecto). El líder de este tema es hiyouga/LlamaFactory, con 76,171 estrellas.

109
Total de Repositorios
487,465
Total de estrellas
4,472
Promedio de Estrellas/Repo

109 repositorios en total

1
hiyouga/LlamaFactory

Ajuste fino eficiente unificado de más de 100 LLM y VLM (ACL 2024)

hiyouga
⭐ 76,171 Python 👤 hiyouga User 🕐 Actualizado 2026-11-21 📅 Creado 2023-05-28
2
xai-org/grok-1

Grok Open Release

xai-org
⭐ 50,567 Python 👤 xai-org Organization 🕐 Actualizado 2024-08-30 📅 Creado 2024-03-17
3
microsoft/BitNet

Marco de inferencia oficial para LLM de 1 bit

microsoft
⭐ 42,358 C++ 👤 microsoft Organization 🕐 Actualizado 2026-07-27 📅 Creado 2024-08-05
4
SYSTRAN/faster-whisper

Transcripción Whisper más rápida con CTranslate2

SYSTRAN
⭐ 26,924 Python 👤 SYSTRAN Organization 🕐 Actualizado 2026-11-12 📅 Creado 2023-02-11
5
kvcache-ai/ktransformers

Un marco flexible para experimentar optimizaciones de inferencia/ajuste fino de LLM heterogéneos

kvcache-ai
⭐ 19,687 Python 👤 kvcache-ai Organization 🕐 Actualizado 2026-11-13 📅 Creado 2024-07-26
6
ymcui/Chinese-LLaMA-Alpaca

Modelos de Lenguaje Grandes LLaMA y Alpaca Chinos + Entrenamiento e Implementación Local en CPU/GPU (Chinese LLaMA & Alpaca LLMs)

ymcui
⭐ 18,915 Python 👤 ymcui User 🕐 Actualizado 2026-04-19 📅 Creado 2023-03-15
7
UFund-Me/Qbot

[🔥actualizando ...] Robot de trading cuantitativo AI automático (despliegue completamente local) Plataforma de investigación de inversiones cuantitativas impulsada por IA. 📃 documentación en línea: https://ufund-me.github.io/Qbot ✨ :news: qbot-mini: https://github.com/Charmve/iQuant

UFund-Me
⭐ 18,849 Jupyter Notebook 👤 UFund-Me Organization 🕐 Actualizado 2026-03-11 📅 Creado 2022-11-23
8
RyanCodrai/turbovec

Un índice vectorial construido sobre TurboQuant, escrito en Rust con enlaces de Python

RyanCodrai
⭐ 17,505 Rust 👤 RyanCodrai User 🕐 Actualizado 2026-10-07 📅 Creado 2026-03-26
9
FareedKhan-dev/kimi-k3-in-c

Un modelo Kimi K3 de 2,78 billones de parámetros ejecutando inferencia en una sola CPU con 8,24 GB de RAM. C99 portátil: sin BLAS, sin framework, sin GPU.

FareedKhan-dev
⭐ 12,523 C 👤 FareedKhan-dev User 🕐 Actualizado 2026-11-16 📅 Creado 2026-08-01
10
artidoro/qlora

QLoRA: Finetuning eficiente de LLM cuantizados

artidoro
⭐ 10,804 Jupyter Notebook 👤 artidoro User 🕐 Actualizado 2024-06-10 📅 Creado 2023-05-11
11
bitsandbytes-foundation/bitsandbytes

Modelos de lenguaje grandes accesibles a través de cuantización k-bit para PyTorch.

bitsandbytes-foundation
⭐ 8,548 Python 👤 bitsandbytes-foundation Organization 🕐 Actualizado 2026-11-02 📅 Creado 2021-06-04
12
gpu-mode/lectures

Material para conferencias en modo gpu

gpu-mode
⭐ 7,109 Jupyter Notebook 👤 gpu-mode Organization 🕐 Actualizado 2026-09-09 📅 Creado 2024-01-20
13
meta-pytorch/gpt-fast

Generación de texto Transformer simple y eficiente, nativa de Pytorch, en <1000 LOC de Python.

meta-pytorch
⭐ 6,244 Python 👤 meta-pytorch Organization 🕐 Actualizado 2025-08-22 📅 Creado 2023-10-17
14
Lightning-AI/lit-llama

Implementación del modelo de lenguaje LLaMA basado en nanoGPT. Soporta atención flash, cuantización Int8 y GPTQ de 4 bits, ajuste fino LoRA y LLaMA-Adapter, pre-entrenamiento. Licencia Apache 2.0.

Lightning-AI
⭐ 6,084 Python 👤 Lightning-AI Organization 🕐 Actualizado 2025-07-01 📅 Creado 2023-03-22
15
kornelski/pngquant

Compresor PNG con pérdida — comando pngquant basado en la biblioteca libimagequant

kornelski
⭐ 5,773 C 👤 kornelski User 🕐 Actualizado 2026-10-27 📅 Creado 2009-09-17
16
ztxz16/fastllm

fastllm es una biblioteca de inferencia de modelos de lenguaje grandes de alto rendimiento que no depende de ningún backend y le ayuda a ejecutar inferencias de forma eficiente en la mayoría de los dispositivos.

ztxz16
⭐ 5,133 C++ 👤 ztxz16 User 🕐 Actualizado 2026-11-21 📅 Creado 2023-05-13
17
OpenNMT/CTranslate2

Motor de inferencia rápida para modelos Transformer

OpenNMT
⭐ 4,758 C++ 👤 OpenNMT Organization 🕐 Actualizado 2026-11-21 📅 Creado 2019-09-23
18
turboderp-org/exllamav2

Una biblioteca de inferencia rápida para ejecutar LLM localmente en GPU modernas de clase de consumo

turboderp-org
⭐ 4,653 Python 👤 turboderp-org Organization 🕐 Actualizado 2026-03-04 📅 Creado 2023-08-30
19
CalvinXKY/InfraTech

Compartir conocimientos de AI Infra y práctica de código: PyTorch, vLLM/SGLang, introducción al marco slime/vime ⚡️, aceleración de rendimiento 🚀, fundamentos de modelos grandes 🧠, software y hardware de IA 🔧, etc.

CalvinXKY
⭐ 4,411 Jupyter Notebook 👤 CalvinXKY User 🕐 Actualizado 2026-09-20 📅 Creado 2025-11-14
20
thu-ml/SageAttention

[ICLR2025, ICML2025, NeurIPS2025 Spotlight] La Atención Cuantificada (Quantized Attention) logra una aceleración de 2 a 5 veces en comparación con FlashAttention, sin perder métricas de extremo a extremo en modelos de lenguaje, imagen y video.

thu-ml
⭐ 4,017 Cuda 👤 thu-ml Organization 🕐 Actualizado 2026-01-17 📅 Creado 2024-10-03
21
vllm-project/llm-compressor

Compresión de LLM de última generación, diseñada para la inferencia en producción con vLLM

vllm-project
⭐ 3,981 Python 👤 vllm-project Organization 🕐 Actualizado 2026-11-21 📅 Creado 2024-06-20
22
nunchux-ai/nunchaku

[ICLR2025 Spotlight] SVDQuant: Absorción de valores atípicos mediante componentes de bajo rango para modelos de difusión de 4 bits

nunchux-ai
⭐ 3,969 Python 👤 nunchux-ai Organization 🕐 Actualizado 2026-09-06 📅 Creado 2024-11-06
23
NVlabs/VILA

VILA es una familia de modelos de lenguaje de visión (VLM) de última generación para diversas tareas de IA multimodal en el borde, centros de datos y la nube.

NVlabs
⭐ 3,873 Python 👤 NVlabs Organization 🕐 Actualizado 2026-03-12 📅 Creado 2024-02-23
24
amitshekhariitbhu/ai-engineering-interview-questions

Tu hoja de trucos para la entrevista de ingeniería de IA – Preguntas y respuestas.

amitshekhariitbhu
⭐ 3,707 Markdown 👤 amitshekhariitbhu User 🕐 Actualizado 2026-11-21 📅 Creado 2026-03-21
25
mit-han-lab/llm-awq

[MLSys 2024 Best Paper Award] AWQ: Cuantización de pesos sensible a la activación para la compresión y aceleración de LLM

mit-han-lab
⭐ 3,590 Python 👤 mit-han-lab Organization 🕐 Actualizado 2025-07-17 📅 Creado 2023-06-01
26
huggingface/optimum

Acelera la inferencia y el entrenamiento de 🤗 Transformers, Diffusers, TIMM y Sentence Transformers con herramientas de optimización de hardware fáciles de usar

huggingface
⭐ 3,525 Python 👤 huggingface Organization 🕐 Actualizado 2026-11-16 📅 Creado 2021-07-20
27
ikawrakow/ik_llama.cpp

Fork de llama.cpp con cuantificaciones SOTA adicionales y rendimiento mejorado

ikawrakow
⭐ 3,411 C++ 👤 ikawrakow User 🕐 Actualizado 2026-11-21 📅 Creado 2024-06-27
28
huawei-noah/Pretrained-Language-Model

Modelo de lenguaje preentrenado y sus técnicas de optimización relacionadas desarrolladas por Huawei Noah's Ark Lab.

huawei-noah
⭐ 3,152 Python 👤 huawei-noah Organization 🕐 Actualizado 2024-01-22 📅 Creado 2019-12-02
29
mw00/project-maya

Ejecuta GLM-5.3 (744B), DeepSeek-V4.1-Flash (748B), MiniMax-M3.1-Flash (428B), GLM-5.3-Flash (321B) y Hy4-Flash (220B) en tus propias GPU: desde 8 GB de VRAM, compatibles con NVIDIA y AMD, un solo panel de control y una API compatible con OpenAI y Anthropic.

mw00
⭐ 3,140 C++ 👤 mw00 User 🕐 Actualizado 2026-11-21 📅 Creado 2026-10-06
30
pytorch/ao

Cuantización nativa de PyTorch para entrenamiento e inferencia

pytorch
⭐ 3,032 Python 👤 pytorch Organization 🕐 Actualizado 2026-11-21 📅 Creado 2023-11-03
31
nunchux-ai/ComfyUI-nunchaku

Plugin ComfyUI de Nunchaku

nunchux-ai
⭐ 2,934 Python 👤 nunchux-ai Organization 🕐 Actualizado 2026-09-06 📅 Creado 2025-03-12
32
black-forest-labs/flux2

Repositorio oficial de inferencia para los modelos FLUX.2

black-forest-labs
⭐ 2,886 Python 👤 black-forest-labs Organization 🕐 Actualizado 2026-03-12 📅 Creado 2025-11-24
33
syv-ai/HyperQwen

Ejecuta modelos Qwen grandes rápidamente en las GPU que realmente tienes. Qwen3.8-27B en una sola tarjeta de 24 GB con vLLM: 127 tok/s para un solo usuario (381 cuando la respuesta cita el prompt), aproximadamente 1.035 tok/s con 64 solicitudes concurrentes y un contexto de 150k–262k. Parches para vLLM, canalización de requantización y benchmarks.

syv-ai
⭐ 2,778 Python 👤 syv-ai Organization 🕐 Actualizado 2026-11-10 📅 Creado 2026-08-15
34
qualcomm/aimet

AIMET es una biblioteca que proporciona técnicas avanzadas de cuantización y compresión para modelos de redes neuronales entrenadas.

qualcomm
⭐ 2,748 Python 👤 qualcomm Organization 🕐 Actualizado 2026-11-21 📅 Creado 2020-04-21
35
intel/neural-compressor

Cuantización LLM de baja precisión SOTA (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) y esparcidad; técnicas líderes de compresión de modelos en PyTorch, TensorFlow y ONNX Runtime

intel
⭐ 2,733 Python 👤 intel Organization 🕐 Actualizado 2026-11-20 📅 Creado 2020-07-21
36
stochasticai/xTuring

Crea, personaliza y controla tus propios LLM. Desde el preprocesamiento de datos hasta el ajuste fino, xTuring ofrece una forma sencilla de personalizar los LLM de código abierto. Únete a nuestra comunidad de Discord: https://discord.gg/TgHXuSJEk6

stochasticai
⭐ 2,680 Python 👤 stochasticai Organization 🕐 Actualizado 2026-11-05 📅 Creado 2023-03-19
37
adithya-s-k/AI-Engineering.academy

Dominando la IA aplicada, un concepto a la vez

adithya-s-k
⭐ 2,388 Jupyter Notebook 👤 adithya-s-k User 🕐 Actualizado 2026-02-27 📅 Creado 2023-10-05
38
dvmazur/mixtral-offloading

Ejecute modelos Mixtral-8x7B en Colab o en escritorios de consumo

dvmazur
⭐ 2,327 Python 👤 dvmazur User 🕐 Actualizado 2024-04-08 📅 Creado 2023-12-15
39
aixcoder-plugin/aiXcoder-7B

repositorio oficial del modelo de lenguaje grande de código aiXcoder-7B

aixcoder-plugin
⭐ 2,273 Python 👤 aixcoder-plugin Organization 🕐 Actualizado 2025-07-09 📅 Creado 2024-03-30
40
666DZY666/micronet

micronet, una biblioteca de compresión y despliegue de modelos. Compresión: 1、Cuantización: entrenamiento consciente de cuantización(QAT), Alto-Bit(>2b)(DoReFa/Quantization and Training of Neural Networks for Efficient Integer-Arithmetic-Only Inference)、Bajo-Bit(≤2b)/Ternario y Binario(TWN/BNN/XNOR-Net); cuantización post-entrenamiento(PTQ), 8-bit(tensorrt); 2、poda: normal、regular y poda de canales convolucionales en grupo; 3、estructura de convolución en grupo; 4、fusión de normalización por lotes para cuantización. Despliegue: tensorrt, fp32/fp16/in

666DZY666
⭐ 2,270 Python 👤 666DZY666 User 🕐 Actualizado 2025-05-06 📅 Creado 2019-12-04
41
IST-DASLab/gptq

Código para el artículo de ICLR 2023 "GPTQ: Accurate Post-training Quantization of Generative Pretrained Transformers".

IST-DASLab
⭐ 2,241 Python 👤 IST-DASLab Organization 🕐 Actualizado 2024-03-27 📅 Creado 2022-10-19
42
RightNow-AI/picolm

Ejecuta un LLM de 1 billón de parámetros en una placa de $10 con 256 MB de RAM.

RightNow-AI
⭐ 2,218 C 👤 RightNow-AI Organization 🕐 Actualizado 2026-02-22 📅 Creado 2026-02-19
43
bigcode-project/starcoder2

¡Hogar de StarCoder2!

bigcode-project
⭐ 2,018 Python 👤 bigcode-project Organization 🕐 Actualizado 2024-03-21 📅 Creado 2023-12-08
44
intel/intel-extension-for-pytorch

Un paquete de Python para extender el PyTorch oficial que puede obtener fácilmente rendimiento en la plataforma Intel

intel
⭐ 2,012 Python 👤 intel Organization 🕐 Actualizado 2026-03-13 📅 Creado 2020-04-15
45
turboderp-org/exllamav3

Una biblioteca optimizada de cuantización e inferencia para ejecutar LLM localmente en GPU de consumo modernas

turboderp-org
⭐ 1,853 Python 👤 turboderp-org Organization 🕐 Actualizado 2026-11-19 📅 Creado 2025-04-06
46
Tencent/AngelSlim

Kit de herramientas de compresión de modelos diseñado para una mayor usabilidad, exhaustividad y eficiencia.

Tencent
⭐ 1,811 Python 👤 Tencent Organization 🕐 Actualizado 2026-11-20 📅 Creado 2025-07-04
47
OpenPPL/ppq

PPL Quantization Tool (PPQ) es una potente herramienta de cuantización de redes neuronales sin conexión.

OpenPPL
⭐ 1,774 Python 👤 OpenPPL Organization 🕐 Actualizado 2024-03-28 📅 Creado 2021-12-30
48
Anemll/Anemll

Artificial Neural Engine Machine Learning Library

Anemll
⭐ 1,710 Python 👤 Anemll User 🕐 Actualizado 2026-10-31 📅 Creado 2025-01-06
49
intel/auto-round

Eficiencia de la cuantización posterior al entrenamiento, precisión de la cuantización con entrenamiento consciente

intel
⭐ 1,706 Python 👤 intel Organization 🕐 Actualizado 2026-11-21 📅 Creado 2024-01-04
50
microsoft/onnxruntime-inference-examples

Ejemplos de uso de ONNX Runtime para inferencia de aprendizaje automático.

microsoft
⭐ 1,703 C++ 👤 microsoft Organization 🕐 Actualizado 2026-11-10 📅 Creado 2021-04-09

Preguntas frecuentes

1

¿Cuál es el repositorio de #quantization más popular en GitHub?

El proyecto de código abierto de #quantization mejor posicionado en GitHub es hiyouga/LlamaFactory, con 76,171 estrellas. Ajuste fino eficiente unificado de más de 100 LLM y VLM (ACL 2024)

2

¿Qué lenguajes de programación se utilizan más en los repositorios de #quantization?

Entre los proyectos de #quantization mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, C++, Jupyter Notebook, C.

3

¿Cómo se calcula la clasificación de los repositorios de #quantization?

Seguimos 109 repositorios activos de código abierto etiquetados con #quantization (500+ estrellas), que suman un total de 487,465 estrellas, con una media de 4,472 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.