Git Stars Git Stars

#gguf Repositórios

Descubra 49 repositórios ativos de código aberto no GitHub marcados com #gguf, acumulando um total de 165,186 estrelas (uma média de 3,371 por projeto). O líder deste tópico é AlexsJones/llmfit, com 39,174 estrelas.

49
Total de Repositórios
165,186
Total de estrelas
3,371
Média de Estrelas/Repositório

50 repositórios no total

1
AlexsJones/llmfit

Centenas de modelos e provedores. Um comando para encontrar o que roda no seu hardware.

AlexsJones
⭐ 39,174 Rust 👤 AlexsJones User 🕐 Atualizado 2026-11-18 📅 Criado 2026-02-15
2
mozilla-ai/llamafile

Distribua e execute LLMs com um único arquivo.

mozilla-ai
⭐ 26,681 C++ 👤 mozilla-ai Organization 🕐 Atualizado 2026-11-09 📅 Criado 2023-09-10
3
MakazhanAlpamys/Soup

Ajuste fino de LLMs a partir de um YAML. Streaming por camadas treina um modelo de 8B em uma GPU de laptop de 4 GB.

MakazhanAlpamys
⭐ 10,703 Python 👤 MakazhanAlpamys User 🕐 Atualizado 2026-11-21 📅 Criado 2026-02-20
4
karminski/one-small-step

Este é um projeto simples de tutorial de divulgação científica e técnica, focado principalmente em explicar alguns conceitos e princípios técnicos interessantes e de ponta. Cada artigo deve ser lido em 5 minutos.

karminski
⭐ 7,006 Python 👤 karminski User 🕐 Atualizado 2026-03-08 📅 Criado 2025-01-16
5
qybaihe/bla

🛡️ BLA (bla-agents / Blind LLM Agents) — servidor MCP e CLI de defesa Blue de código aberto que protege JS/TS, Electron ASAR, WASM, Python, binários nativos, SQLite, GGUF/Safetensors e Android DEX contra agentes de engenharia reversa com IA (REA).

qybaihe
⭐ 6,366 TypeScript 👤 qybaihe User 🕐 Atualizado 2026-11-21 📅 Criado 2026-10-25
6
Michael-A-Kuykendall/shimmy

⚡ Motor de inferência WebGPU em Rust puro — Compatível com a API da OpenAI, nativo para GGUF, roda em qualquer GPU. Sem Python. Sem llama.cpp. Binário único.

Michael-A-Kuykendall
⭐ 6,020 Rust 👤 Michael-A-Kuykendall User 🕐 Atualizado 2026-11-12 📅 Criado 2025-08-28
7
ngxson/smolvlm-realtime-webcam

Demonstração de webcam em tempo real com SmolVLM e servidor llama.cpp

ngxson
⭐ 5,555 HTML 👤 ngxson User 🕐 Atualizado 2025-05-12 📅 Criado 2025-05-12
8
city96/ComfyUI-GGUF

Suporte de Quantização GGUF para modelos ComfyUI nativos

city96
⭐ 4,284 Python 👤 city96 User 🕐 Atualizado 2026-01-12 📅 Criado 2024-08-15
9
AtomicBot-ai/atomic-agent

Atomic Agent é um agente de IA com prioridade local. Executa modelos de pesos abertos na sua própria máquina por meio do llama.cpp.

AtomicBot-ai
⭐ 3,589 TypeScript 👤 AtomicBot-ai Organization 🕐 Atualizado 2026-11-21 📅 Criado 2026-04-21
10
off-grid-ai/OGAM

O canivete suíço da IA offline. Converse, veja, fale e gere imagens no seu celular ou Mac — LLMs GGUF, visão, conversão de fala em texto Whisper, Stable Diffusion, chamadas de ferramentas e servidores de rede local. Funciona na sua CPU, GPU ou NPU. Sem conta, sem chave de API, nenhum dado sai do seu dispositivo.

off-grid-ai
⭐ 3,406 TypeScript 👤 off-grid-ai Organization 🕐 Atualizado 2026-11-21 📅 Criado 2026-01-29
11
mw00/project-maya

Execute GLM-5.3 (744B), DeepSeek-V4.1-Flash (748B), MiniMax-M3.1-Flash (428B), GLM-5.3-Flash (321B) e Hy4-Flash (220B) nas suas próprias GPUs — a partir de 8 GB de VRAM, com suporte para NVIDIA e AMD, um único painel e uma API compatível com OpenAI e Anthropic.

mw00
⭐ 3,140 C++ 👤 mw00 User 🕐 Atualizado 2026-11-21 📅 Criado 2026-10-06
12
Mobile-Artificial-Intelligence/maid

Maid é um aplicativo livre e de código aberto para interagir com modelos llama.cpp localmente, e com modelos Anthropic, DeepSeek, Ollama, Mistral e OpenAI remotamente.

Mobile-Artificial-Intelligence
⭐ 2,785 TypeScript 👤 Mobile-Artificial-Intelligence Organization 🕐 Atualizado 2026-10-29 📅 Criado 2023-10-17
13
datawhalechina/handy-ollama

Aprendendo Ollama na prática: execute modelos grandes na CPU, leia online em: https://datawhalechina.github.io/handy-ollama/

datawhalechina
⭐ 2,560 Jupyter Notebook 👤 datawhalechina Organization 🕐 Atualizado 2026-01-15 📅 Criado 2024-07-30
14
ddalcu/mlx-serve

Servidor nativo de inferência de LLM para Apple Silicon. Compatível com as APIs da OpenAI e da Anthropic. Sem Python. Aplicativo macOS com backend em Zig e frontend em Swift, com suporte à geração de chat, música, voz e vídeo.

ddalcu
⭐ 2,528 Zig 👤 ddalcu User 🕐 Atualizado 2026-11-21 📅 Criado 2026-02-17
15
heshengtao/comfyui_LLM_party

O Framework de Agente LLM no ComfyUI inclui o servidor MCP, Omost, GPT-sovits, ChatTTS, GOT-OCR2.0 e nós de prompt FLUX, acesso ao Feishu, discord, e se adapta a todos os LLMs com interfaces semelhantes ao openai / aisuite, como o1, ollama, gemini, grok, qwen, GLM, deepseek, kimi, doubao. Adaptado a LLMs locais, VLM, GGUF como llama-3.3 Janus-Pro, Linkage graphRAG

heshengtao
⭐ 2,393 Python 👤 heshengtao User 🕐 Atualizado 2026-07-29 📅 Criado 2024-04-13
16
withcatai/node-llama-cpp

Execute modelos de IA localmente na sua máquina com bindings para llama.cpp em node.js. Imponha um schema JSON na saída do modelo no nível de geração

withcatai
⭐ 2,207 TypeScript 👤 withcatai Organization 🕐 Atualizado 2026-11-18 📅 Criado 2023-08-12
17
handy-computer/transcribe.cpp

Inferência de fala para texto ggml para mais de 16 famílias de modelos

handy-computer
⭐ 2,194 C++ 👤 handy-computer Organization 🕐 Atualizado 2026-11-20 📅 Criado 2026-04-07
18
AtomicBot-ai/Atomic-Chat

Aplicativo de IA local e motor de inferência para agentes. Execute LLMs de pesos abertos localmente — privado, 100% offline no seu computador. Junte-se ao nosso Discord: https://discord.com/invite/8wGSsvmg4V

AtomicBot-ai
⭐ 2,040 TypeScript 👤 AtomicBot-ai Organization 🕐 Atualizado 2026-11-19 📅 Criado 2026-03-31
19
sammcj/gollama

Vá gerenciar seus modelos Ollama

sammcj
⭐ 1,849 Go 👤 sammcj User 🕐 Atualizado 2026-10-21 📅 Criado 2024-05-30
20
StartLuxLabs/StartLux-Decision

Modelos abertos de decisão de 0,8B a 27B: uma probabilidade calibrada para cada opção em uma única passagem e um breve raciocínio apenas quando houver incerteza. Motor para vLLM, llama.cpp e MLX.

StartLuxLabs
⭐ 1,780 Python 👤 StartLuxLabs Organization 🕐 Atualizado 2026-10-23 📅 Criado 2026-09-29
21
intel/auto-round

Eficiência da quantização pós-treinamento, precisão da quantização com treinamento consciente

intel
⭐ 1,706 Python 👤 intel Organization 🕐 Atualizado 2026-11-21 📅 Criado 2024-01-04
22
nobodywho-ooo/nobodywho

NobodyWho é um motor de inferência que permite executar LLMs localmente e de forma eficiente em qualquer dispositivo.

nobodywho-ooo
⭐ 1,699 Rust 👤 nobodywho-ooo Organization 🕐 Atualizado 2026-11-19 📅 Criado 2024-09-03
23
LlamaEdge/LlamaEdge

A maneira mais fácil e rápida de executar LLMs personalizados e ajustados localmente ou na borda

LlamaEdge
⭐ 1,665 Rust 👤 LlamaEdge Organization 🕐 Atualizado 2026-02-08 📅 Criado 2023-10-09
24
QwenAudio/Fun-ASR

Modelos de reconhecimento de fala Fun-ASR, com suporte nativo ao Hugging Face Transformers para o Fun-ASR-Nano e caminhos de implantação separados para FunASR, vLLM e llama.cpp.

QwenAudio
⭐ 1,614 C 👤 QwenAudio Organization 🕐 Atualizado 2026-11-20 📅 Criado 2025-12-15
25
kitops-ml/kitops

Uma ferramenta DevOps de código aberto da CNCF para empacotar e versionar modelos de IA/ML, conjuntos de dados, código e configuração em um Artefato OCI.

kitops-ml
⭐ 1,451 Go 👤 kitops-ml Organization 🕐 Atualizado 2026-11-20 📅 Criado 2024-02-02
26
edwko/OuteTTS

Interface para modelos OuteTTS.

edwko
⭐ 1,440 Python 👤 edwko User 🕐 Atualizado 2026-03-23 📅 Criado 2024-11-04
27
synchopate/llama-modchip

Inferência em CPU sem GPU para modelos MoE de 30B–284B (Qwen3.8 176.5B certificado com cache fria no Cgroup v2 com 28,26/48,35 GiB, DeepSeek-V4 284B, Nemotron-30B) + RouteCrack 2.0.

synchopate
⭐ 1,398 Python 👤 synchopate User 🕐 Atualizado 2026-11-21 📅 Criado 2026-10-29
28
ciddwd/overlay-translator

Tradutor de tela em tempo real para Android, de código aberto e sem root, adequado para jogos, visual novels e mangás. Suporta OCR no dispositivo e na nuvem, LLMs offline, vários serviços de tradução, traduções na tela e texto para fala (TTS).

ciddwd
⭐ 1,369 Kotlin 👤 ciddwd User 🕐 Atualizado 2026-11-16 📅 Criado 2026-06-22
29
simplexai-labs/PolyStrata

Execute grandes modelos de IA no seu próprio PC: Qwen3.8-Flash-Next no mecanismo da Strata e GLM 5.3 Flash, DeepSeek V4 Flash, LFM2.5, Qwen3.6, Ornith 1.5, Gemma 4, Tiel Coder e MiniCPM-V em um segundo mecanismo desenvolvido para a PolyStrata. Instalação com um clique para Windows e Linux, com API OpenAI/Anthropic no localhost.

simplexai-labs
⭐ 1,324 C++ 👤 simplexai-labs Organization 🕐 Atualizado 2026-11-18 📅 Criado 2026-10-06
30
wici-ai/inferssd

Execute modelos maiores do que a capacidade da sua RAM ou VRAM transmitindo especialistas MoE a partir de um SSD. Baseado no llama.cpp.

wici-ai
⭐ 1,277 C++ 👤 wici-ai Organization 🕐 Atualizado 2026-11-20 📅 Criado 2026-10-22
31
Helldez/BigMoeOnEdge

Execute modelos MoE maiores que a sua RAM. MoE de ponta em um celular, laptop ou dispositivo de borda. Sem perdas, com o llama.cpp padrão. Um otimizador adaptativo de streaming. Qualquer hardware, sistema operacional, modelo e quantização, por meio de um servidor local compatível com a OpenAI.

Helldez
⭐ 1,066 C++ 👤 Helldez User 🕐 Atualizado 2026-11-21 📅 Criado 2026-07-10
32
jegly/Box

A suíte de IA do lado do cliente mais avançada e totalmente offline disponível hoje no Android.

jegly
⭐ 1,035 Kotlin 👤 jegly User 🕐 Atualizado 2026-11-21 📅 Criado 2026-04-17
33
sgaofen/humanizer-local-model

Reescreve rascunhos de IA para que pareçam escritos por uma pessoa — funciona localmente e preserva os fatos

sgaofen
⭐ 1,010 Python 👤 sgaofen User 🕐 Atualizado 2026-10-19 📅 Criado 2026-09-11
34
feder-cr/jev

jevos: uma alternativa de código aberto ao Jev e ao Microsoft-Decision-1. Decisões de sim ou não, escolhas e pontuações com probabilidades, na CPU do seu laptop.

feder-cr
⭐ 970 C++ 👤 feder-cr User 🕐 Atualizado 2026-10-18 📅 Criado 2024-08-15
35
alvarobartt/hf-mem

Um CLI para estimar os requisitos de memória de inferência para modelos Hugging Face, escrito em Python.

alvarobartt
⭐ 956 Python 👤 alvarobartt User 🕐 Atualizado 2026-11-20 📅 Criado 2025-12-22
36
Valen-Team/Valen

Modelos abertos de decisão multimodal, de 0,8B a 27B, para texto, imagens e vídeo. Tome decisões atribuindo probabilidades aos seus próprios candidatos e localize elementos com caixas delimitadoras, em vez de gerar texto. API gratuita, ONNX, GGUF, vLLM e SGLang; código de ajuste fino incluído.

Valen-Team
⭐ 932 Python 👤 Valen-Team Organization 🕐 Atualizado 2026-11-15 📅 Criado 2026-09-23
37
eastriverlee/LLM.swift

LLM.swift é uma biblioteca simples e legível que permite interagir com modelos de linguagem grandes localmente com facilidade para macOS, iOS, watchOS, tvOS e visionOS.

eastriverlee
⭐ 883 Swift 👤 eastriverlee User 🕐 Atualizado 2026-07-19 📅 Criado 2023-12-02
38
mukel/llama3.java

Inferência Llama 3+ em Java puro

mukel
⭐ 818 Java 👤 mukel User 🕐 Atualizado 2026-04-24 📅 Criado 2024-04-25
39
SimpleBerry/LLaMA-O1

Modelos de Raciocínio de Grande Porte

SimpleBerry
⭐ 806 Python 👤 SimpleBerry Organization 🕐 Atualizado 2024-12-03 📅 Criado 2024-10-10
40
prabanta-dev/janas

37 tok/s com Qwen3-Next-80B (48 GB) num portátil com 32 GB; 24 sem rascunhos, contra 2,8 com llama.cpp; leitura a 62 contra 16 tok/s. Mais rápido que llama.cpp em todos os 13 modelos comparados em Q4_K_M. LLMs maiores do que a sua RAM, em C puro, para CPU ou GPU.

prabanta-dev
⭐ 738 C 👤 prabanta-dev Organization 🕐 Atualizado 2026-11-20 📅 Criado 2026-09-20
41
zhongkaifu/TensorSharp

Um mecanismo nativo de inferência de LLM e runtime de agentes em .NET para modelos GGUF. O TensorSharp oferece um aplicativo de console, uma interface de chatbot baseada na Web, um aplicativo para iPhone e APIs HTTP compatíveis com Ollama/OpenAI para acesso programático. É compatível com Windows, macOS, iOS e Linux, com suporte completo a GPU.

zhongkaifu
⭐ 681 C# 👤 zhongkaifu User 🕐 Atualizado 2026-11-20 📅 Criado 2026-04-03
42
hybridgroup/yzma

Avance com sua própria inteligência: escreva aplicações em Go que integrem diretamente o llama.cpp para realizar inferência local com aceleração de hardware no Linux, macOS, Windows e WebAssembly.

hybridgroup
⭐ 677 Go 👤 hybridgroup Organization 🕐 Atualizado 2026-11-19 📅 Criado 2025-09-21
43
gokayfem/ComfyUI_VLM_nodes

Nós do ComfyUI para modelos de visão-linguagem: Qwen3-VL, Moondream 3, Florence-2, SmolVLM2, InternVL, Gemma 3, MiniCPM-V. Além de detecção de vocabulário aberto, segmentação SAM2/SAM3, raciocínio temporal de vídeo, GGUF via llama.cpp e APIs de LLM/VLM hospedadas.

gokayfem
⭐ 592 Python 👤 gokayfem User 🕐 Atualizado 2026-08-08 📅 Criado 2024-01-24
44
kelindar/search

Biblioteca Go para pesquisa vetorial incorporada e embeddings semânticos usando llama.cpp

kelindar
⭐ 561 Go 👤 kelindar User 🕐 Atualizado 2026-09-19 📅 Criado 2024-09-29
45
StartLuxLabs/StartLux-Prism

Inferência rápida e exata para os modelos StartLux-Decision em GPUs NVIDIA: os arquivos GGUF disponibilizados são executados em tensor cores int8 e de 4 bits por meio da API /v1/systemone, com latência até 5,3 vezes menor que a do vLLM em FP8 e respostas idênticas bit a bit.

StartLuxLabs
⭐ 560 Python 👤 StartLuxLabs Organization 🕐 Atualizado 2026-10-27 📅 Criado 2026-10-13
46
Indras-Mirror/Xolotl

Xolotl: execute o DeepSeek-V4.1-Flash, com todos os 552B parâmetros, como um agente local de programação em um único PC gamer (RTX 4090 + 110 GB de RAM): ~33 tok/s no modo agente, ~41 no modo rápido e contexto de 512K. Além disso, Inkling-2-Mini (Thinking Machines, mecanismo próprio + gerador de rascunhos MTP), GLM-5.3-Flash, Qwen3.8 e LFM3-Omni. Especialistas MoE distribuídos em camadas entre VRAM, RAM e NVMe (Xolotl Direct). API da OpenAI + Anthropic.

Indras-Mirror
⭐ 549 C++ 👤 Indras-Mirror User 🕐 Atualizado 2026-11-21 📅 Criado 2026-10-06
47
dllm-labs/mojo-dllm

Inferência local para modelos de linguagem de difusão (LLaDA, Dream), escrita em Mojo

dllm-labs
⭐ 546 Python 👤 dllm-labs Organization 🕐 Atualizado 2026-11-20 📅 Criado 2026-10-04
48
nyosegawa/speech.cpp

Síntese de voz, reconhecimento de fala e detecção de atividade de voz para conversas por voz, em C++ com ggml: Qwen3-TTS, Irodori-TTS, Qwen3-ASR, ReazonSpeech, parakeet e Silero VAD em Metal, Vulkan e CPU, com um servidor compatível com OpenAI e transcrição em tempo real.

nyosegawa
⭐ 510 C++ 👤 nyosegawa User 🕐 Atualizado 2026-11-20 📅 Criado 2026-09-29
49
AudarAI/Audar-ASR-V1

Reconhecimento de fala generativo focado em árabe — Audar-ASR-V1 (Flash + Turbo). Nº 1 no ranking Open Universal Arabic ASR. Cartões de modelo, benchmarks e inferência.

AudarAI
⭐ 503 Python 👤 AudarAI Organization 🕐 Atualizado 2026-08-22 📅 Criado 2026-07-06
50
withcatai/catai

Execute um assistente de IA ✨ localmente! com uma API simples para Node.js 🚀

withcatai
⭐ 500 TypeScript 👤 withcatai Organization 🕐 Atualizado 2025-11-16 📅 Criado 2023-03-25

Perguntas Frequentes

1

Qual é o repositório de #gguf mais popular no GitHub?

O projeto de código aberto de #gguf mais bem classificado no GitHub é AlexsJones/llmfit, com 39,174 estrelas. Centenas de modelos e provedores. Um comando para encontrar o que roda no seu hardware.

2

Quais linguagens de programação são mais usadas nos repositórios de #gguf?

Entre os projetos de #gguf mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, C++, TypeScript, Rust.

3

Como é calculada a classificação dos repositórios de #gguf?

Acompanhamos 49 repositórios ativos de código aberto marcados com #gguf (com mais de 500 estrelas), totalizando 165,186 estrelas e uma média de 3,371 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.