Git Stars Git Stars

#gguf Repositorios

Descubre 49 repositorios activos de código abierto de GitHub etiquetados con #gguf, que acumulan 165,186 estrellas en total (una media de 3,371 estrellas por proyecto). El líder de este tema es AlexsJones/llmfit, con 39,174 estrellas.

49
Total de Repositorios
165,186
Total de estrellas
3,371
Promedio de Estrellas/Repo

50 repositorios en total

1
AlexsJones/llmfit

Cientos de modelos y proveedores. Un solo comando para encontrar lo que funciona en tu hardware.

AlexsJones
⭐ 39,174 Rust 👤 AlexsJones User 🕐 Actualizado 2026-11-18 📅 Creado 2026-02-15
2
mozilla-ai/llamafile

Distribuye y ejecuta LLM con un solo archivo.

mozilla-ai
⭐ 26,681 C++ 👤 mozilla-ai Organization 🕐 Actualizado 2026-11-09 📅 Creado 2023-09-10
3
MakazhanAlpamys/Soup

Ajuste fino de LLMs desde un YAML. El streaming por capas entrena un modelo de 8B en una GPU de portátil de 4 GB.

MakazhanAlpamys
⭐ 10,703 Python 👤 MakazhanAlpamys User 🕐 Actualizado 2026-11-21 📅 Creado 2026-02-20
4
karminski/one-small-step

Este es un sencillo proyecto de tutorial técnico科普, centrado principalmente en explicar conceptos y principios tecnológicos interesantes y de vanguardia. Cada artículo se esfuerza por completarse en 5 minutos de lectura.

karminski
⭐ 7,006 Python 👤 karminski User 🕐 Actualizado 2026-03-08 📅 Creado 2025-01-16
5
qybaihe/bla

🛡️ BLA (bla-agents / Blind LLM Agents) — servidor MCP y CLI de defensa Blue de código abierto que protege JS/TS, Electron ASAR, WASM, Python, binarios nativos, SQLite, GGUF/Safetensors y Android DEX frente a agentes de ingeniería inversa basados en IA (REA).

qybaihe
⭐ 6,366 TypeScript 👤 qybaihe User 🕐 Actualizado 2026-11-21 📅 Creado 2026-10-25
6
Michael-A-Kuykendall/shimmy

⚡ Motor de inferencia WebGPU en Rust puro — Compatible con la API de OpenAI, nativo para GGUF, funciona en cualquier GPU. Sin Python. Sin llama.cpp. Un solo binario.

Michael-A-Kuykendall
⭐ 6,020 Rust 👤 Michael-A-Kuykendall User 🕐 Actualizado 2026-11-12 📅 Creado 2025-08-28
7
ngxson/smolvlm-realtime-webcam

Demostración de cámara web en tiempo real con SmolVLM y servidor llama.cpp

ngxson
⭐ 5,555 HTML 👤 ngxson User 🕐 Actualizado 2025-05-12 📅 Creado 2025-05-12
8
city96/ComfyUI-GGUF

Soporte de cuantización GGUF para modelos nativos de ComfyUI

city96
⭐ 4,284 Python 👤 city96 User 🕐 Actualizado 2026-01-12 📅 Creado 2024-08-15
9
AtomicBot-ai/atomic-agent

Atomic Agent es un agente de IA con prioridad local. Ejecuta modelos de pesos abiertos en tu propia máquina mediante llama.cpp.

AtomicBot-ai
⭐ 3,589 TypeScript 👤 AtomicBot-ai Organization 🕐 Actualizado 2026-11-21 📅 Creado 2026-04-21
10
off-grid-ai/OGAM

La navaja suiza de la IA offline. Chatea, mira, habla y genera imágenes en tu teléfono o Mac: modelos GGUF, visión, conversión de voz a texto con Whisper, Stable Diffusion, llamadas a herramientas y servidores de red local. Funciona en tu CPU, GPU o NPU. Sin cuenta, sin clave API, ningún dato sale de tu dispositivo.

off-grid-ai
⭐ 3,406 TypeScript 👤 off-grid-ai Organization 🕐 Actualizado 2026-11-21 📅 Creado 2026-01-29
11
mw00/project-maya

Ejecuta GLM-5.3 (744B), DeepSeek-V4.1-Flash (748B), MiniMax-M3.1-Flash (428B), GLM-5.3-Flash (321B) y Hy4-Flash (220B) en tus propias GPU: desde 8 GB de VRAM, compatibles con NVIDIA y AMD, un solo panel de control y una API compatible con OpenAI y Anthropic.

mw00
⭐ 3,140 C++ 👤 mw00 User 🕐 Actualizado 2026-11-21 📅 Creado 2026-10-06
12
Mobile-Artificial-Intelligence/maid

Maid es una aplicación gratuita y de código abierto para interactuar con modelos llama.cpp localmente, y con modelos Anthropic, DeepSeek, Ollama, Mistral y OpenAI de forma remota.

Mobile-Artificial-Intelligence
⭐ 2,785 TypeScript 👤 Mobile-Artificial-Intelligence Organization 🕐 Actualizado 2026-10-29 📅 Creado 2023-10-17
13
datawhalechina/handy-ollama

Aprende Ollama activamente, despliegue de grandes modelos con CPU, dirección de lectura en línea: https://datawhalechina.github.io/handy-ollama/

datawhalechina
⭐ 2,560 Jupyter Notebook 👤 datawhalechina Organization 🕐 Actualizado 2026-01-15 📅 Creado 2024-07-30
14
ddalcu/mlx-serve

Servidor nativo de inferencia de LLM para Apple Silicon. Compatible con las API de OpenAI y Anthropic. Sin Python. Aplicación de macOS con backend en Zig y frontend en Swift, compatible con la generación de chat, música, voz y vídeo.

ddalcu
⭐ 2,528 Zig 👤 ddalcu User 🕐 Actualizado 2026-11-21 📅 Creado 2026-02-17
15
heshengtao/comfyui_LLM_party

El framework de agente LLM en ComfyUI incluye nodos de servidor MCP, Omost, GPT-sovits, ChatTTS, GOT-OCR2.0 y prompt FLUX, acceso a Feishu, discord y se adapta a todos los LLM con interfaces similares a openai / aisuite, como o1, ollama, gemini, grok, qwen, GLM, deepseek, kimi, doubao. Adaptado a LLM locales, VLM, gguf como llama-3.3 Janus-Pro, Linkage GraphRAG

heshengtao
⭐ 2,393 Python 👤 heshengtao User 🕐 Actualizado 2026-07-29 📅 Creado 2024-04-13
16
withcatai/node-llama-cpp

Ejecuta modelos de IA localmente en tu máquina con enlaces de Node.js para llama.cpp. Aplica un esquema JSON a la salida del modelo en el nivel de generación.

withcatai
⭐ 2,207 TypeScript 👤 withcatai Organization 🕐 Actualizado 2026-11-18 📅 Creado 2023-08-12
17
handy-computer/transcribe.cpp

Inferencia de voz a texto ggml para más de 16 familias de modelos

handy-computer
⭐ 2,194 C++ 👤 handy-computer Organization 🕐 Actualizado 2026-11-20 📅 Creado 2026-04-07
18
AtomicBot-ai/Atomic-Chat

Aplicación de IA local y motor de inferencia para agentes. Ejecute LLM de pesos abiertos localmente: privado, 100% sin conexión en su computadora. Únase a nuestro Discord: https://discord.com/invite/8wGSsvmg4V

AtomicBot-ai
⭐ 2,040 TypeScript 👤 AtomicBot-ai Organization 🕐 Actualizado 2026-11-19 📅 Creado 2026-03-31
19
sammcj/gollama

Gestiona tus modelos de Ollama

sammcj
⭐ 1,849 Go 👤 sammcj User 🕐 Actualizado 2026-10-21 📅 Creado 2024-05-30
20
StartLuxLabs/StartLux-Decision

Modelos de decisión abiertos de 0,8B a 27B: una probabilidad calibrada para cada opción en una sola pasada y un razonamiento breve solo cuando haya incertidumbre. Motor para vLLM, llama.cpp y MLX.

StartLuxLabs
⭐ 1,780 Python 👤 StartLuxLabs Organization 🕐 Actualizado 2026-10-23 📅 Creado 2026-09-29
21
intel/auto-round

Eficiencia de la cuantización posterior al entrenamiento, precisión de la cuantización con entrenamiento consciente

intel
⭐ 1,706 Python 👤 intel Organization 🕐 Actualizado 2026-11-21 📅 Creado 2024-01-04
22
nobodywho-ooo/nobodywho

NobodyWho es un motor de inferencia que te permite ejecutar LLMs de forma local y eficiente en cualquier dispositivo.

nobodywho-ooo
⭐ 1,699 Rust 👤 nobodywho-ooo Organization 🕐 Actualizado 2026-11-19 📅 Creado 2024-09-03
23
LlamaEdge/LlamaEdge

La forma más fácil y rápida de ejecutar LLM personalizados y ajustados localmente o en el borde

LlamaEdge
⭐ 1,665 Rust 👤 LlamaEdge Organization 🕐 Actualizado 2026-02-08 📅 Creado 2023-10-09
24
QwenAudio/Fun-ASR

Modelos de reconocimiento de voz Fun-ASR, con compatibilidad nativa con Hugging Face Transformers para Fun-ASR-Nano y rutas de implementación independientes para FunASR, vLLM y llama.cpp.

QwenAudio
⭐ 1,614 C 👤 QwenAudio Organization 🕐 Actualizado 2026-11-20 📅 Creado 2025-12-15
25
kitops-ml/kitops

Una herramienta DevOps de código abierto de la CNCF para empaquetar y versionar modelos de IA/ML, conjuntos de datos, código y configuraciones en un artefacto OCI.

kitops-ml
⭐ 1,451 Go 👤 kitops-ml Organization 🕐 Actualizado 2026-11-20 📅 Creado 2024-02-02
26
edwko/OuteTTS

Interfaz para modelos OuteTTS.

edwko
⭐ 1,440 Python 👤 edwko User 🕐 Actualizado 2026-03-23 📅 Creado 2024-11-04
27
synchopate/llama-modchip

Inferencia en CPU sin GPU para modelos MoE de 30B–284B (Qwen3.8 176.5B certificado con caché fría en Cgroup v2 de 28,26/48,35 GiB, DeepSeek-V4 284B, Nemotron-30B) + RouteCrack 2.0.

synchopate
⭐ 1,398 Python 👤 synchopate User 🕐 Actualizado 2026-11-21 📅 Creado 2026-10-29
28
ciddwd/overlay-translator

Traductor de pantalla en tiempo real para Android de código abierto y sin root, ideal para juegos, novelas visuales y manga. Admite OCR en el dispositivo y en la nube, LLM sin conexión, múltiples servicios de traducción, traducciones en pantalla y texto a voz (TTS).

ciddwd
⭐ 1,369 Kotlin 👤 ciddwd User 🕐 Actualizado 2026-11-16 📅 Creado 2026-06-22
29
simplexai-labs/PolyStrata

Ejecuta grandes modelos de IA en tu propio PC: Qwen3.8-Flash-Next con el motor de Strata, y GLM 5.3 Flash, DeepSeek V4 Flash, LFM2.5, Qwen3.6, Ornith 1.5, Gemma 4, Tiel Coder y MiniCPM-V con un segundo motor creado para PolyStrata. Instalación con un clic para Windows y Linux, con una API de OpenAI/Anthropic en localhost.

simplexai-labs
⭐ 1,324 C++ 👤 simplexai-labs Organization 🕐 Actualizado 2026-11-18 📅 Creado 2026-10-06
30
wici-ai/inferssd

Ejecuta modelos que superan la capacidad de tu RAM o VRAM transmitiendo expertos MoE desde un SSD. Basado en llama.cpp.

wici-ai
⭐ 1,277 C++ 👤 wici-ai Organization 🕐 Actualizado 2026-11-20 📅 Creado 2026-10-22
31
Helldez/BigMoeOnEdge

Ejecuta modelos MoE más grandes que tu RAM. MoE de última generación en un teléfono, portátil o dispositivo edge. Sin pérdidas, con llama.cpp sin modificar. Un optimizador de streaming adaptativo. Cualquier hardware, sistema operativo, modelo y cuantización, a través de un servidor local compatible con OpenAI.

Helldez
⭐ 1,066 C++ 👤 Helldez User 🕐 Actualizado 2026-11-21 📅 Creado 2026-07-10
32
jegly/Box

La suite de IA del lado del cliente más avanzada y totalmente fuera de línea disponible hoy en Android.

jegly
⭐ 1,035 Kotlin 👤 jegly User 🕐 Actualizado 2026-11-21 📅 Creado 2026-04-17
33
sgaofen/humanizer-local-model

Reescribe borradores de IA para que parezcan escritos por una persona: funciona localmente y conserva los hechos

sgaofen
⭐ 1,010 Python 👤 sgaofen User 🕐 Actualizado 2026-10-19 📅 Creado 2026-09-11
34
feder-cr/jev

jevos: una alternativa de código abierto a Jev y Microsoft-Decision-1. Decisiones de sí o no, opciones y puntuaciones con probabilidades, en la CPU de tu portátil.

feder-cr
⭐ 970 C++ 👤 feder-cr User 🕐 Actualizado 2026-10-18 📅 Creado 2024-08-15
35
alvarobartt/hf-mem

Una CLI para estimar los requisitos de memoria de inferencia para modelos de Hugging Face, escrita en Python.

alvarobartt
⭐ 956 Python 👤 alvarobartt User 🕐 Actualizado 2026-11-20 📅 Creado 2025-12-22
36
Valen-Team/Valen

Modelos abiertos de decisión multimodal, de 0,8B a 27B, para texto, imágenes y vídeo. Decide asignando probabilidades a tus propios candidatos y localiza con cuadros delimitadores, en lugar de generar texto. API gratuita, ONNX, GGUF, vLLM y SGLang; incluye código de ajuste fino.

Valen-Team
⭐ 932 Python 👤 Valen-Team Organization 🕐 Actualizado 2026-11-15 📅 Creado 2026-09-23
37
eastriverlee/LLM.swift

LLM.swift es una biblioteca sencilla y legible que le permite interactuar fácilmente con modelos de lenguaje grandes de forma local para macOS, iOS, watchOS, tvOS y visionOS.

eastriverlee
⭐ 883 Swift 👤 eastriverlee User 🕐 Actualizado 2026-07-19 📅 Creado 2023-12-02
38
mukel/llama3.java

Inferencia de Llama 3+ en Java puro

mukel
⭐ 818 Java 👤 mukel User 🕐 Actualizado 2026-04-24 📅 Creado 2024-04-25
39
SimpleBerry/LLaMA-O1

Grandes modelos de razonamiento

SimpleBerry
⭐ 806 Python 👤 SimpleBerry Organization 🕐 Actualizado 2024-12-03 📅 Creado 2024-10-10
40
prabanta-dev/janas

37 tok/s con Qwen3-Next-80B (48 GB) en un portátil de 32 GB; 24 sin borradores, frente a 2,8 con llama.cpp; lectura a 62 frente a 16 tok/s. Más rápido que llama.cpp en los 13 modelos comparados en Q4_K_M. LLM más grandes que tu RAM, en C puro, para CPU o GPU.

prabanta-dev
⭐ 738 C 👤 prabanta-dev Organization 🕐 Actualizado 2026-11-20 📅 Creado 2026-09-20
41
zhongkaifu/TensorSharp

Un motor nativo de inferencia de modelos de lenguaje grande (LLM) y un entorno de ejecución de agentes .NET para modelos GGUF. TensorSharp ofrece una aplicación de consola, una interfaz de chatbot basada en la web, una aplicación para iPhone y API HTTP compatibles con Ollama/OpenAI para el acceso mediante programación. Es compatible con Windows, macOS, iOS y Linux, con capacidades completas de GPU.

zhongkaifu
⭐ 681 C# 👤 zhongkaifu User 🕐 Actualizado 2026-11-20 📅 Creado 2026-04-03
42
hybridgroup/yzma

Avanza con tu propia inteligencia: escribe aplicaciones en Go que integren directamente llama.cpp para realizar inferencia local mediante aceleración de hardware en Linux, macOS, Windows y WebAssembly.

hybridgroup
⭐ 677 Go 👤 hybridgroup Organization 🕐 Actualizado 2026-11-19 📅 Creado 2025-09-21
43
gokayfem/ComfyUI_VLM_nodes

Nodos de ComfyUI para modelos de visión-lenguaje: Qwen3-VL, Moondream 3, Florence-2, SmolVLM2, InternVL, Gemma 3, MiniCPM-V. Además de detección de vocabulario abierto, segmentación SAM2/SAM3, razonamiento temporal de video, GGUF a través de llama.cpp y APIs de LLM/VLM alojadas.

gokayfem
⭐ 592 Python 👤 gokayfem User 🕐 Actualizado 2026-08-08 📅 Creado 2024-01-24
44
kelindar/search

Librería de Go para búsqueda vectorial incrustada y embeddings semánticos utilizando llama.cpp

kelindar
⭐ 561 Go 👤 kelindar User 🕐 Actualizado 2026-09-19 📅 Creado 2024-09-29
45
StartLuxLabs/StartLux-Prism

Inferencia rápida y exacta para los modelos StartLux-Decision en GPU NVIDIA: los archivos GGUF publicados se ejecutan en núcleos tensoriales int8 y de 4 bits a través de la API /v1/systemone, con hasta 5,3 veces menos latencia que vLLM en FP8 y respuestas idénticas bit a bit.

StartLuxLabs
⭐ 560 Python 👤 StartLuxLabs Organization 🕐 Actualizado 2026-10-27 📅 Creado 2026-10-13
46
Indras-Mirror/Xolotl

Xolotl: ejecuta DeepSeek-V4.1-Flash, con sus 552B parámetros completos, como agente de programación local en un solo PC gaming (RTX 4090 + 110 GB de RAM): ~33 tok/s como agente, ~41 en modo rápido y contexto de 512K. Además, Inkling-2-Mini (Thinking Machines, motor propio + generador de borradores MTP), GLM-5.3-Flash, Qwen3.8 y LFM3-Omni. Expertos MoE distribuidos por niveles entre la VRAM, la RAM y NVMe (Xolotl Direct). API de OpenAI + Anthropic.

Indras-Mirror
⭐ 549 C++ 👤 Indras-Mirror User 🕐 Actualizado 2026-11-21 📅 Creado 2026-10-06
47
dllm-labs/mojo-dllm

Inferencia local para modelos de lenguaje de difusión (LLaDA, Dream), escrita en Mojo

dllm-labs
⭐ 546 Python 👤 dllm-labs Organization 🕐 Actualizado 2026-11-20 📅 Creado 2026-10-04
48
nyosegawa/speech.cpp

Síntesis de voz, reconocimiento de voz y detección de actividad vocal para conversaciones por voz, en C++ sobre ggml: Qwen3-TTS, Irodori-TTS, Qwen3-ASR, ReazonSpeech, parakeet y Silero VAD en Metal, Vulkan y la CPU, con un servidor compatible con OpenAI y transcripción en tiempo real.

nyosegawa
⭐ 510 C++ 👤 nyosegawa User 🕐 Actualizado 2026-11-20 📅 Creado 2026-09-29
49
AudarAI/Audar-ASR-V1

Reconocimiento de voz generativo centrado en el árabe — Audar-ASR-V1 (Flash + Turbo). N.º 1 en la clasificación Open Universal Arabic ASR. Tarjetas de modelo, puntos de referencia e inferencia.

AudarAI
⭐ 503 Python 👤 AudarAI Organization 🕐 Actualizado 2026-08-22 📅 Creado 2026-07-06
50
withcatai/catai

¡Ejecuta un asistente de IA ✨ localmente! con una API sencilla para Node.js 🚀

withcatai
⭐ 500 TypeScript 👤 withcatai Organization 🕐 Actualizado 2025-11-16 📅 Creado 2023-03-25

Preguntas frecuentes

1

¿Cuál es el repositorio de #gguf más popular en GitHub?

El proyecto de código abierto de #gguf mejor posicionado en GitHub es AlexsJones/llmfit, con 39,174 estrellas. Cientos de modelos y proveedores. Un solo comando para encontrar lo que funciona en tu hardware.

2

¿Qué lenguajes de programación se utilizan más en los repositorios de #gguf?

Entre los proyectos de #gguf mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, C++, TypeScript, Rust.

3

¿Cómo se calcula la clasificación de los repositorios de #gguf?

Seguimos 49 repositorios activos de código abierto etiquetados con #gguf (500+ estrellas), que suman un total de 165,186 estrellas, con una media de 3,371 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.