Git Stars Git Stars

#gguf Repository

Scopri 49 repository GitHub open source attivi contrassegnati con #gguf, che raccolgono un totale di 165,186 stelle (con una media di 3,371 stelle per progetto). Il progetto leader di questo argomento è AlexsJones/llmfit, con 39,174 stelle.

49
Totale Repository
165,186
Totale stelle
3,371
Media Stelle/Repo

50 repository in totale

1
AlexsJones/llmfit

Centinaia di modelli e provider. Un solo comando per trovare ciò che funziona sul tuo hardware.

AlexsJones
⭐ 39,174 Rust 👤 AlexsJones User 🕐 Aggiornato 2026-11-18 📅 Creato 2026-02-15
2
mozilla-ai/llamafile

Distribuisci ed esegui LLM con un singolo file.

mozilla-ai
⭐ 26,681 C++ 👤 mozilla-ai Organization 🕐 Aggiornato 2026-11-09 📅 Creato 2023-09-10
3
MakazhanAlpamys/Soup

Affina i LLM da un singolo YAML. Lo streaming a livelli addestra un modello da 8B su una GPU per laptop da 4 GB.

MakazhanAlpamys
⭐ 10,703 Python 👤 MakazhanAlpamys User 🕐 Aggiornato 2026-11-21 📅 Creato 2026-02-20
4
karminski/one-small-step

Questo è un semplice progetto di tutorial tecnico科普, focalizzato principalmente sulla spiegazione di concetti e principi tecnologici interessanti e all'avanguardia. Ogni articolo si sforza di essere completato in 5 minuti di lettura.

karminski
⭐ 7,006 Python 👤 karminski User 🕐 Aggiornato 2026-03-08 📅 Creato 2025-01-16
5
qybaihe/bla

🛡️ BLA (bla-agents / Blind LLM Agents) — server MCP e CLI open source di difesa Blue che protegge JS/TS, Electron ASAR, WASM, Python, binari nativi, SQLite, GGUF/Safetensors e Android DEX dagli agenti di reverse engineering basati sull’IA (REA).

qybaihe
⭐ 6,366 TypeScript 👤 qybaihe User 🕐 Aggiornato 2026-11-21 📅 Creato 2026-10-25
6
Michael-A-Kuykendall/shimmy

⚡ Motore di inferenza WebGPU in Rust puro — Compatibile con le API OpenAI, nativo GGUF, funziona su qualsiasi GPU. Niente Python. Niente llama.cpp. Singolo binario.

Michael-A-Kuykendall
⭐ 6,020 Rust 👤 Michael-A-Kuykendall User 🕐 Aggiornato 2026-11-12 📅 Creato 2025-08-28
7
ngxson/smolvlm-realtime-webcam

Demo webcam in tempo reale con SmolVLM e server llama.cpp

ngxson
⭐ 5,555 HTML 👤 ngxson User 🕐 Aggiornato 2025-05-12 📅 Creato 2025-05-12
8
city96/ComfyUI-GGUF

Supporto per la quantizzazione GGUF per modelli nativi ComfyUI

city96
⭐ 4,284 Python 👤 city96 User 🕐 Aggiornato 2026-01-12 📅 Creato 2024-08-15
9
AtomicBot-ai/atomic-agent

Atomic Agent è un agente di IA local-first. Esegue modelli open-weight sul tuo computer tramite llama.cpp.

AtomicBot-ai
⭐ 3,589 TypeScript 👤 AtomicBot-ai Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2026-04-21
10
off-grid-ai/OGAM

Il coltellino svizzero dell'IA offline. Chatta, guarda, parla e genera immagini sul tuo telefono o Mac: LLM GGUF, visione, sintesi vocale Whisper, Stable Diffusion, chiamate a strumenti e server di rete locale. Funziona sulla tua CPU, GPU o NPU. Nessun account, nessuna chiave API, nessun dato lascia il tuo dispositivo.

off-grid-ai
⭐ 3,406 TypeScript 👤 off-grid-ai Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2026-01-29
11
mw00/project-maya

Esegui GLM-5.3 (744B), DeepSeek-V4.1-Flash (748B), MiniMax-M3.1-Flash (428B), GLM-5.3-Flash (321B) e Hy4-Flash (220B) sulle tue GPU — a partire da 8 GB di VRAM, con supporto per NVIDIA e AMD, un’unica dashboard e un’API compatibile con OpenAI e Anthropic.

mw00
⭐ 3,140 C++ 👤 mw00 User 🕐 Aggiornato 2026-11-21 📅 Creato 2026-10-06
12
Mobile-Artificial-Intelligence/maid

Maid è un’applicazione gratuita e open source per interfacciarsi con i modelli llama.cpp localmente e con i modelli Anthropic, DeepSeek, Ollama, Mistral e OpenAI in remoto.

Mobile-Artificial-Intelligence
⭐ 2,785 TypeScript 👤 Mobile-Artificial-Intelligence Organization 🕐 Aggiornato 2026-10-29 📅 Creato 2023-10-17
13
datawhalechina/handy-ollama

Impara Ollama attivamente, implementazione di grandi modelli con CPU, indirizzo di lettura online: https://datawhalechina.github.io/handy-ollama/

datawhalechina
⭐ 2,560 Jupyter Notebook 👤 datawhalechina Organization 🕐 Aggiornato 2026-01-15 📅 Creato 2024-07-30
14
ddalcu/mlx-serve

Server nativo per l’inferenza di LLM su Apple Silicon. Compatibile con le API di OpenAI e Anthropic. Senza Python. App macOS con backend in Zig e frontend in Swift, per la generazione di chat, musica, voce e video.

ddalcu
⭐ 2,528 Zig 👤 ddalcu User 🕐 Aggiornato 2026-11-21 📅 Creato 2026-02-17
15
heshengtao/comfyui_LLM_party

Il framework dell'agente LLM in ComfyUI include i nodi MCP server, Omost, GPT-sovits, ChatTTS, GOT-OCR2.0 e FLUX prompt, accesso a Feishu, discord e si adatta a tutti gli LLM con interfacce simili a openai / aisuite, come o1, ollama, gemini, grok, qwen, GLM, deepseek, kimi, doubao. Adattato a LLM locali, VLM, gguf come llama-3.3 Janus-Pro, Linkage GraphRAG

heshengtao
⭐ 2,393 Python 👤 heshengtao User 🕐 Aggiornato 2026-07-29 📅 Creato 2024-04-13
16
withcatai/node-llama-cpp

Esegui modelli AI localmente sulla tua macchina con binding Node.js per llama.cpp. Applica uno schema JSON all'output del modello a livello di generazione.

withcatai
⭐ 2,207 TypeScript 👤 withcatai Organization 🕐 Aggiornato 2026-11-18 📅 Creato 2023-08-12
17
handy-computer/transcribe.cpp

Inferenza speech-to-text ggml per oltre 16 famiglie di modelli

handy-computer
⭐ 2,194 C++ 👤 handy-computer Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2026-04-07
18
AtomicBot-ai/Atomic-Chat

App AI locale e motore di inferenza per agenti. Esegui LLM a pesi aperti localmente: privato, 100% offline sul tuo computer. Unisciti al nostro Discord: https://discord.com/invite/8wGSsvmg4V

AtomicBot-ai
⭐ 2,040 TypeScript 👤 AtomicBot-ai Organization 🕐 Aggiornato 2026-11-19 📅 Creato 2026-03-31
19
sammcj/gollama

Gestisci i tuoi modelli Ollama

sammcj
⭐ 1,849 Go 👤 sammcj User 🕐 Aggiornato 2026-10-21 📅 Creato 2024-05-30
20
StartLuxLabs/StartLux-Decision

Modelli decisionali aperti da 0,8B a 27B: una probabilità calibrata per ogni opzione in un solo passaggio e un breve ragionamento solo in caso di incertezza. Motore per vLLM, llama.cpp e MLX.

StartLuxLabs
⭐ 1,780 Python 👤 StartLuxLabs Organization 🕐 Aggiornato 2026-10-23 📅 Creato 2026-09-29
21
intel/auto-round

Efficienza della quantizzazione post-training, accuratezza della quantizzazione con addestramento consapevole

intel
⭐ 1,706 Python 👤 intel Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2024-01-04
22
nobodywho-ooo/nobodywho

NobodyWho è un motore di inferenza che ti consente di eseguire LLM localmente ed efficientemente su qualsiasi dispositivo.

nobodywho-ooo
⭐ 1,699 Rust 👤 nobodywho-ooo Organization 🕐 Aggiornato 2026-11-19 📅 Creato 2024-09-03
23
LlamaEdge/LlamaEdge

Il modo più semplice e veloce per eseguire LLM personalizzati e ottimizzati localmente o sull'edge

LlamaEdge
⭐ 1,665 Rust 👤 LlamaEdge Organization 🕐 Aggiornato 2026-02-08 📅 Creato 2023-10-09
24
QwenAudio/Fun-ASR

Modelli di riconoscimento vocale Fun-ASR, con supporto nativo per Hugging Face Transformers per Fun-ASR-Nano e percorsi di distribuzione separati per FunASR, vLLM e llama.cpp.

QwenAudio
⭐ 1,614 C 👤 QwenAudio Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2025-12-15
25
kitops-ml/kitops

Uno strumento DevOps open source del CNCF per il packaging e il versioning di modelli AI/ML, dataset, codice e configurazioni in un artefatto OCI.

kitops-ml
⭐ 1,451 Go 👤 kitops-ml Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2024-02-02
26
edwko/OuteTTS

Interfaccia per modelli OuteTTS.

edwko
⭐ 1,440 Python 👤 edwko User 🕐 Aggiornato 2026-03-23 📅 Creato 2024-11-04
27
synchopate/llama-modchip

Inferenza su CPU senza GPU per modelli MoE da 30B a 284B (Qwen3.8 176.5B certificato con cache fredda in Cgroup v2 a 28,26/48,35 GiB, DeepSeek-V4 284B, Nemotron-30B) + RouteCrack 2.0.

synchopate
⭐ 1,398 Python 👤 synchopate User 🕐 Aggiornato 2026-11-21 📅 Creato 2026-10-29
28
ciddwd/overlay-translator

Traduttore di schermo in tempo reale per Android, open source e senza root, adatto a giochi, visual novel e manga. Supporta OCR su dispositivo e cloud, LLM offline, più servizi di traduzione, traduzioni su schermo e sintesi vocale (TTS).

ciddwd
⭐ 1,369 Kotlin 👤 ciddwd User 🕐 Aggiornato 2026-11-16 📅 Creato 2026-06-22
29
simplexai-labs/PolyStrata

Esegui modelli di IA di grandi dimensioni sul tuo PC: Qwen3.8-Flash-Next con il motore di Strata e GLM 5.3 Flash, DeepSeek V4 Flash, LFM2.5, Qwen3.6, Ornith 1.5, Gemma 4, Tiel Coder e MiniCPM-V con un secondo motore progettato per PolyStrata. Installazione con un clic per Windows e Linux, con API OpenAI/Anthropic su localhost.

simplexai-labs
⭐ 1,324 C++ 👤 simplexai-labs Organization 🕐 Aggiornato 2026-11-18 📅 Creato 2026-10-06
30
wici-ai/inferssd

Esegui modelli più grandi della tua RAM o VRAM caricando in streaming gli esperti MoE da un SSD. Basato su llama.cpp.

wici-ai
⭐ 1,277 C++ 👤 wici-ai Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2026-10-22
31
Helldez/BigMoeOnEdge

Esegui modelli MoE più grandi della tua RAM. MoE di frontiera su smartphone, laptop o dispositivo edge. Senza perdita, con llama.cpp standard. Un ottimizzatore adattivo in streaming. Qualsiasi hardware, sistema operativo, modello e quantizzazione, tramite un server locale compatibile con OpenAI.

Helldez
⭐ 1,066 C++ 👤 Helldez User 🕐 Aggiornato 2026-11-21 📅 Creato 2026-07-10
32
jegly/Box

La suite di intelligenza artificiale lato client più avanzata e completamente offline disponibile oggi su Android.

jegly
⭐ 1,035 Kotlin 👤 jegly User 🕐 Aggiornato 2026-11-21 📅 Creato 2026-04-17
33
sgaofen/humanizer-local-model

Riscrive le bozze dell’IA perché sembrino scritte da una persona: funziona in locale e mantiene i fatti

sgaofen
⭐ 1,010 Python 👤 sgaofen User 🕐 Aggiornato 2026-10-19 📅 Creato 2026-09-11
34
feder-cr/jev

jevos: un'alternativa open source a Jev e Microsoft-Decision-1. Decisioni sì/no, scelte e punteggi con probabilità, eseguiti sulla CPU del tuo laptop.

feder-cr
⭐ 970 C++ 👤 feder-cr User 🕐 Aggiornato 2026-10-18 📅 Creato 2024-08-15
35
alvarobartt/hf-mem

Un CLI per stimare i requisiti di memoria di inferenza per i modelli Hugging Face, scritto in Python.

alvarobartt
⭐ 956 Python 👤 alvarobartt User 🕐 Aggiornato 2026-11-20 📅 Creato 2025-12-22
36
Valen-Team/Valen

Modelli aperti di decisione multimodale, da 0,8B a 27B, per testo, immagini e video. Decidi assegnando probabilità ai tuoi candidati e individua gli elementi con riquadri di delimitazione, invece di generare testo. API gratuita, ONNX, GGUF, vLLM e SGLang; codice per il fine-tuning incluso.

Valen-Team
⭐ 932 Python 👤 Valen-Team Organization 🕐 Aggiornato 2026-11-15 📅 Creato 2026-09-23
37
eastriverlee/LLM.swift

LLM.swift è una libreria semplice e leggibile che consente di interagire facilmente con modelli linguistici di grandi dimensioni in locale per macOS, iOS, watchOS, tvOS e visionOS.

eastriverlee
⭐ 883 Swift 👤 eastriverlee User 🕐 Aggiornato 2026-07-19 📅 Creato 2023-12-02
38
mukel/llama3.java

Inferenza Llama 3+ in puro Java

mukel
⭐ 818 Java 👤 mukel User 🕐 Aggiornato 2026-04-24 📅 Creato 2024-04-25
39
SimpleBerry/LLaMA-O1

Grandi modelli di ragionamento

SimpleBerry
⭐ 806 Python 👤 SimpleBerry Organization 🕐 Aggiornato 2024-12-03 📅 Creato 2024-10-10
40
prabanta-dev/janas

37 tok/s con Qwen3-Next-80B (48 GB) su un laptop da 32 GB; 24 senza draft contro 2,8 con llama.cpp; lettura a 62 contro 16 tok/s. Più veloce di llama.cpp in tutti i 13 modelli confrontati in Q4_K_M. LLM più grandi della tua RAM, in puro C, per CPU o GPU.

prabanta-dev
⭐ 738 C 👤 prabanta-dev Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2026-09-20
41
zhongkaifu/TensorSharp

Un motore nativo di inferenza per modelli linguistici di grandi dimensioni (LLM) .NET e un runtime per agenti per modelli GGUF. TensorSharp offre un’applicazione da console, un’interfaccia chatbot basata sul Web, un’app per iPhone e API HTTP compatibili con Ollama/OpenAI per l’accesso programmatico. Supporta Windows, macOS, iOS e Linux con pieno supporto GPU.

zhongkaifu
⭐ 681 C# 👤 zhongkaifu User 🕐 Aggiornato 2026-11-20 📅 Creato 2026-04-03
42
hybridgroup/yzma

Vai avanti con la tua intelligenza: scrivi applicazioni Go che integrano direttamente llama.cpp per eseguire inferenza locale con accelerazione hardware su Linux, macOS, Windows e WebAssembly.

hybridgroup
⭐ 677 Go 👤 hybridgroup Organization 🕐 Aggiornato 2026-11-19 📅 Creato 2025-09-21
43
gokayfem/ComfyUI_VLM_nodes

Nodi ComfyUI per modelli vision-language: Qwen3-VL, Moondream 3, Florence-2, SmolVLM2, InternVL, Gemma 3, MiniCPM-V. Include inoltre rilevamento a vocabolario aperto, segmentazione SAM2/SAM3, ragionamento temporale video, GGUF tramite llama.cpp e API LLM/VLM ospitate.

gokayfem
⭐ 592 Python 👤 gokayfem User 🕐 Aggiornato 2026-08-08 📅 Creato 2024-01-24
44
kelindar/search

Libreria Go per la ricerca vettoriale integrata e gli embedding semantici tramite llama.cpp

kelindar
⭐ 561 Go 👤 kelindar User 🕐 Aggiornato 2026-09-19 📅 Creato 2024-09-29
45
StartLuxLabs/StartLux-Prism

Inferenza rapida e precisa per i modelli StartLux-Decision su GPU NVIDIA: i file GGUF rilasciati vengono eseguiti su tensor core int8 e a 4 bit tramite l’API /v1/systemone, con una latenza fino a 5,3 volte inferiore rispetto a vLLM in FP8 e risposte identiche bit per bit.

StartLuxLabs
⭐ 560 Python 👤 StartLuxLabs Organization 🕐 Aggiornato 2026-10-27 📅 Creato 2026-10-13
46
Indras-Mirror/Xolotl

Xolotl: esegui DeepSeek-V4.1-Flash, con tutti i 552B parametri, come agente di programmazione locale su un singolo PC da gaming (RTX 4090 + 110 GB di RAM): ~33 tok/s come agente, ~41 in modalità veloce, contesto da 512K. Inoltre, Inkling-2-Mini (Thinking Machines, motore proprietario + generatore di bozze MTP), GLM-5.3-Flash, Qwen3.8 e LFM3-Omni. Esperti MoE organizzati a livelli tra VRAM, RAM e NVMe (Xolotl Direct). API OpenAI + Anthropic.

Indras-Mirror
⭐ 549 C++ 👤 Indras-Mirror User 🕐 Aggiornato 2026-11-21 📅 Creato 2026-10-06
47
dllm-labs/mojo-dllm

Inferenza locale per modelli linguistici a diffusione (LLaDA, Dream), scritta in Mojo

dllm-labs
⭐ 546 Python 👤 dllm-labs Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2026-10-04
48
nyosegawa/speech.cpp

Sintesi vocale, riconoscimento vocale e rilevamento dell’attività vocale per conversazioni vocali, in C++ su ggml: Qwen3-TTS, Irodori-TTS, Qwen3-ASR, ReazonSpeech, parakeet e Silero VAD su Metal, Vulkan e CPU, con un server compatibile con OpenAI e trascrizione in tempo reale.

nyosegawa
⭐ 510 C++ 👤 nyosegawa User 🕐 Aggiornato 2026-11-20 📅 Creato 2026-09-29
49
AudarAI/Audar-ASR-V1

Riconoscimento vocale generativo incentrato sull'arabo — Audar-ASR-V1 (Flash + Turbo). N. 1 nella classifica Open Universal Arabic ASR. Schede modello, benchmark e inferenza.

AudarAI
⭐ 503 Python 👤 AudarAI Organization 🕐 Aggiornato 2026-08-22 📅 Creato 2026-07-06
50
withcatai/catai

Esegui un assistente IA ✨ in locale! con una semplice API per Node.js 🚀

withcatai
⭐ 500 TypeScript 👤 withcatai Organization 🕐 Aggiornato 2025-11-16 📅 Creato 2023-03-25

Domande frequenti

1

Qual è il repository #gguf più popolare su GitHub?

Il progetto open source #gguf più alto in classifica su GitHub è AlexsJones/llmfit, con 39,174 stelle. Centinaia di modelli e provider. Un solo comando per trovare ciò che funziona sul tuo hardware.

2

Quali linguaggi di programmazione sono più utilizzati nei repository #gguf?

Tra i progetti #gguf più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, C++, TypeScript, Rust.

3

Come viene calcolata la classifica dei repository #gguf?

Monitoriamo 49 repository open source attivi contrassegnati con #gguf (500+ stelle), per un totale di 165,186 stelle e una media di 3,371 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.