Git Stars Git Stars

#gguf Dépôts

Découvrez 49 dépôts GitHub open source actifs associés à #gguf, cumulant 165,186 étoiles au total (soit une moyenne de 3,371 étoiles par projet). Le projet en tête de ce thème est AlexsJones/llmfit, avec 39,174 étoiles.

49
Total des Dépôts
165,186
Nombre total d'étoiles
3,371
Moyenne d'Étoiles/Dépôt
1
AlexsJones/llmfit

Des centaines de modèles et fournisseurs. Une seule commande pour trouver ce qui fonctionne sur votre matériel.

AlexsJones
⭐ 39,174 Rust 👤 AlexsJones User 🕐 Mis à jour 2026-11-18 📅 Créé 2026-02-15
2
mozilla-ai/llamafile

Distribuez et exécutez les LLM avec un seul fichier.

mozilla-ai
⭐ 26,681 C++ 👤 mozilla-ai Organization 🕐 Mis à jour 2026-11-09 📅 Créé 2023-09-10
3
MakazhanAlpamys/Soup

Affinez les LLM à partir d'un YAML. Le streaming par couches entraîne un modèle 8B sur un GPU de laptop de 4 Go.

MakazhanAlpamys
⭐ 10,703 Python 👤 MakazhanAlpamys User 🕐 Mis à jour 2026-11-21 📅 Créé 2026-02-20
4
karminski/one-small-step

Ceci est un simple projet de tutoriel technique科普, axé principalement sur l'explication de concepts et de principes technologiques intéressants et de pointe. Chaque article vise à être lu en 5 minutes.

karminski
⭐ 7,006 Python 👤 karminski User 🕐 Mis à jour 2026-03-08 📅 Créé 2025-01-16
5
qybaihe/bla

🛡️ BLA (bla-agents / Blind LLM Agents) — serveur MCP et CLI de défense Blue open source qui protège JS/TS, Electron ASAR, WASM, Python, les binaires natifs, SQLite, GGUF/Safetensors et Android DEX contre les agents d’ingénierie inverse basés sur l’IA (REA).

qybaihe
⭐ 6,366 TypeScript 👤 qybaihe User 🕐 Mis à jour 2026-11-21 📅 Créé 2026-10-25
6
Michael-A-Kuykendall/shimmy

⚡ Moteur d'inférence WebGPU en Rust pur — Compatible avec l'API OpenAI, natif GGUF, fonctionne sur n'importe quel GPU. Pas de Python. Pas de llama.cpp. Binaire unique.

Michael-A-Kuykendall
⭐ 6,020 Rust 👤 Michael-A-Kuykendall User 🕐 Mis à jour 2026-11-12 📅 Créé 2025-08-28
7
ngxson/smolvlm-realtime-webcam

Démo de webcam en temps réel avec SmolVLM et serveur llama.cpp

ngxson
⭐ 5,555 HTML 👤 ngxson User 🕐 Mis à jour 2025-05-12 📅 Créé 2025-05-12
8
city96/ComfyUI-GGUF

Prise en charge de la quantification GGUF pour les modèles natifs ComfyUI

city96
⭐ 4,284 Python 👤 city96 User 🕐 Mis à jour 2026-01-12 📅 Créé 2024-08-15
9
AtomicBot-ai/atomic-agent

Atomic Agent est un agent d’IA privilégiant l’exécution locale. Il exécute des modèles à poids ouverts sur votre propre machine via llama.cpp.

AtomicBot-ai
⭐ 3,589 TypeScript 👤 AtomicBot-ai Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2026-04-21
10
off-grid-ai/OGAM

Le couteau suisse de l'IA hors ligne. Discutez, voyez, parlez et générez des images sur votre téléphone ou Mac — LLM GGUF, vision, transcription vocale Whisper, Stable Diffusion, appels d'outils et serveurs réseau locaux. Fonctionne sur votre CPU, GPU ou NPU. Aucun compte, aucune clé API, aucune donnée ne quitte votre appareil.

off-grid-ai
⭐ 3,406 TypeScript 👤 off-grid-ai Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2026-01-29
11
mw00/project-maya

Exécutez GLM-5.3 (744B), DeepSeek-V4.1-Flash (748B), MiniMax-M3.1-Flash (428B), GLM-5.3-Flash (321B) et Hy4-Flash (220B) sur vos propres GPU — à partir de 8 Go de VRAM, avec prise en charge de NVIDIA et AMD, un tableau de bord unique et une API compatible avec OpenAI et Anthropic.

mw00
⭐ 3,140 C++ 👤 mw00 User 🕐 Mis à jour 2026-11-21 📅 Créé 2026-10-06
12
Mobile-Artificial-Intelligence/maid

Maid est une application gratuite et open source permettant d’interagir avec les modèles llama.cpp localement, ainsi qu’avec les modèles Anthropic, DeepSeek, Ollama, Mistral et OpenAI à distance.

Mobile-Artificial-Intelligence
⭐ 2,785 TypeScript 👤 Mobile-Artificial-Intelligence Organization 🕐 Mis à jour 2026-10-29 📅 Créé 2023-10-17
13
datawhalechina/handy-ollama

Apprenez Ollama activement, déploiement de grands modèles sur CPU, adresse de lecture en ligne : https://datawhalechina.github.io/handy-ollama/

datawhalechina
⭐ 2,560 Jupyter Notebook 👤 datawhalechina Organization 🕐 Mis à jour 2026-01-15 📅 Créé 2024-07-30
14
ddalcu/mlx-serve

Serveur d’inférence LLM natif pour Apple Silicon. Compatible avec les API d’OpenAI et d’Anthropic. Sans Python. Application macOS avec backend en Zig et frontend en Swift, prenant en charge la génération de conversations, de musique, de voix et de vidéos.

ddalcu
⭐ 2,528 Zig 👤 ddalcu User 🕐 Mis à jour 2026-11-21 📅 Créé 2026-02-17
15
heshengtao/comfyui_LLM_party

Le framework d'agent LLM dans ComfyUI comprend les nœuds serveur MCP, Omost, GPT-sovits, ChatTTS, GOT-OCR2.0 et prompt FLUX, un accès à Feishu, discord et s'adapte à tous les LLM avec des interfaces similaires à openai / aisuite, tels que o1, ollama, gemini, grok, qwen, GLM, deepseek, kimi, doubao. Adapté aux LLM locaux, VLM, gguf tels que llama-3.3 Janus-Pro, Linkage GraphRAG

heshengtao
⭐ 2,393 Python 👤 heshengtao User 🕐 Mis à jour 2026-07-29 📅 Créé 2024-04-13
16
withcatai/node-llama-cpp

Exécutez des modèles d'IA localement sur votre machine avec des liaisons Node.js pour llama.cpp. Appliquez un schéma JSON à la sortie du modèle au niveau de la génération.

withcatai
⭐ 2,207 TypeScript 👤 withcatai Organization 🕐 Mis à jour 2026-11-18 📅 Créé 2023-08-12
17
handy-computer/transcribe.cpp

Inférence parole-texte ggml pour plus de 16 familles de modèles

handy-computer
⭐ 2,194 C++ 👤 handy-computer Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2026-04-07
18
AtomicBot-ai/Atomic-Chat

Application d'IA locale et moteur d'inférence pour agents. Exécutez des LLM à poids ouverts localement — privé, 100 % hors ligne sur votre ordinateur. Rejoignez notre Discord : https://discord.com/invite/8wGSsvmg4V

AtomicBot-ai
⭐ 2,040 TypeScript 👤 AtomicBot-ai Organization 🕐 Mis à jour 2026-11-19 📅 Créé 2026-03-31
19
sammcj/gollama

Gérez vos modèles Ollama

sammcj
⭐ 1,849 Go 👤 sammcj User 🕐 Mis à jour 2026-10-21 📅 Créé 2024-05-30
20
StartLuxLabs/StartLux-Decision

Modèles de décision ouverts de 0,8B à 27B : une probabilité calibrée pour chaque option en un seul passage, et un bref raisonnement uniquement en cas d’incertitude. Moteur pour vLLM, llama.cpp et MLX.

StartLuxLabs
⭐ 1,780 Python 👤 StartLuxLabs Organization 🕐 Mis à jour 2026-10-23 📅 Créé 2026-09-29
21
intel/auto-round

Efficacité de la quantification après entraînement, précision de la quantification avec entraînement conscient

intel
⭐ 1,706 Python 👤 intel Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2024-01-04
22
nobodywho-ooo/nobodywho

NobodyWho est un moteur d'inférence qui vous permet d'exécuter des LLM localement et efficacement sur n'importe quel appareil.

nobodywho-ooo
⭐ 1,699 Rust 👤 nobodywho-ooo Organization 🕐 Mis à jour 2026-11-19 📅 Créé 2024-09-03
23
LlamaEdge/LlamaEdge

Le moyen le plus simple et le plus rapide d'exécuter des LLM personnalisés et affinés localement ou en périphérie

LlamaEdge
⭐ 1,665 Rust 👤 LlamaEdge Organization 🕐 Mis à jour 2026-02-08 📅 Créé 2023-10-09
24
QwenAudio/Fun-ASR

Modèles de reconnaissance vocale Fun-ASR, avec prise en charge native de Hugging Face Transformers pour Fun-ASR-Nano et des voies de déploiement distinctes pour FunASR, vLLM et llama.cpp.

QwenAudio
⭐ 1,614 C 👤 QwenAudio Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2025-12-15
25
kitops-ml/kitops

Un outil DevOps open source du CNCF pour empaqueter et versionner des modèles IA/ML, des ensembles de données, du code et des configurations dans un artefact OCI.

kitops-ml
⭐ 1,451 Go 👤 kitops-ml Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2024-02-02
26
edwko/OuteTTS

Interface pour les modèles OuteTTS.

edwko
⭐ 1,440 Python 👤 edwko User 🕐 Mis à jour 2026-03-23 📅 Créé 2024-11-04
27
synchopate/llama-modchip

Inférence sur CPU sans GPU pour les modèles MoE de 30B à 284B (Qwen3.8 176.5B certifié avec cache froide dans Cgroup v2 à 28,26/48,35 Gio, DeepSeek-V4 284B, Nemotron-30B) + RouteCrack 2.0.

synchopate
⭐ 1,398 Python 👤 synchopate User 🕐 Mis à jour 2026-11-21 📅 Créé 2026-10-29
28
ciddwd/overlay-translator

Traducteur d'écran en temps réel pour Android, open source et sans root, adapté aux jeux, aux visual novels et aux mangas. Prend en charge l'OCR sur appareil et dans le cloud, les LLM hors ligne, plusieurs services de traduction, les traductions à l'écran et la synthèse vocale (TTS).

ciddwd
⭐ 1,369 Kotlin 👤 ciddwd User 🕐 Mis à jour 2026-11-16 📅 Créé 2026-06-22
29
simplexai-labs/PolyStrata

Exécutez de grands modèles d’IA sur votre propre PC : Qwen3.8-Flash-Next avec le moteur de Strata, et GLM 5.3 Flash, DeepSeek V4 Flash, LFM2.5, Qwen3.6, Ornith 1.5, Gemma 4, Tiel Coder et MiniCPM-V avec un second moteur conçu pour PolyStrata. Installation en un clic sous Windows et Linux, avec une API OpenAI/Anthropic sur localhost.

simplexai-labs
⭐ 1,324 C++ 👤 simplexai-labs Organization 🕐 Mis à jour 2026-11-18 📅 Créé 2026-10-06
30
wici-ai/inferssd

Exécutez des modèles dont la taille dépasse la capacité de votre RAM ou VRAM en diffusant les experts MoE depuis un SSD. Basé sur llama.cpp.

wici-ai
⭐ 1,277 C++ 👤 wici-ai Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2026-10-22
31
Helldez/BigMoeOnEdge

Exécutez des modèles MoE plus volumineux que votre RAM. Des MoE de pointe sur un téléphone, un ordinateur portable ou un appareil edge. Sans perte, avec llama.cpp standard. Un optimiseur adaptatif en streaming. Tout matériel, tout système d’exploitation, tout modèle et toute quantification, via un serveur local compatible avec OpenAI.

Helldez
⭐ 1,066 C++ 👤 Helldez User 🕐 Mis à jour 2026-11-21 📅 Créé 2026-07-10
32
jegly/Box

La suite d'IA côté client la plus avancée et entièrement hors ligne disponible aujourd'hui sur Android.

jegly
⭐ 1,035 Kotlin 👤 jegly User 🕐 Mis à jour 2026-11-21 📅 Créé 2026-04-17
33
sgaofen/humanizer-local-model

Réécrit les brouillons générés par l’IA pour leur donner un ton humain — fonctionne en local et préserve les faits

sgaofen
⭐ 1,010 Python 👤 sgaofen User 🕐 Mis à jour 2026-10-19 📅 Créé 2026-09-11
34
feder-cr/jev

jevos : une alternative open source à Jev et Microsoft-Decision-1. Des décisions par oui ou non, des choix et des scores avec des probabilités, sur le processeur de votre ordinateur portable.

feder-cr
⭐ 970 C++ 👤 feder-cr User 🕐 Mis à jour 2026-10-18 📅 Créé 2024-08-15
35
alvarobartt/hf-mem

Un CLI pour estimer les exigences en mémoire d'inférence des modèles Hugging Face, écrit en Python.

alvarobartt
⭐ 956 Python 👤 alvarobartt User 🕐 Mis à jour 2026-11-20 📅 Créé 2025-12-22
36
Valen-Team/Valen

Modèles ouverts de décision multimodale, de 0,8B à 27B, pour le texte, les images et la vidéo. Prenez des décisions en attribuant des probabilités à vos propres candidats et localisez avec des cadres de délimitation, plutôt que de générer du texte. API gratuite, ONNX, GGUF, vLLM et SGLang ; code de fine-tuning inclus.

Valen-Team
⭐ 932 Python 👤 Valen-Team Organization 🕐 Mis à jour 2026-11-15 📅 Créé 2026-09-23
37
eastriverlee/LLM.swift

LLM.swift est une bibliothèque simple et lisible qui vous permet d'interagir facilement avec de grands modèles linguistiques localement pour macOS, iOS, watchOS, tvOS et visionOS.

eastriverlee
⭐ 883 Swift 👤 eastriverlee User 🕐 Mis à jour 2026-07-19 📅 Créé 2023-12-02
38
mukel/llama3.java

Inférence Llama 3+ en Java pur

mukel
⭐ 818 Java 👤 mukel User 🕐 Mis à jour 2026-04-24 📅 Créé 2024-04-25
39
SimpleBerry/LLaMA-O1

Grands modèles de raisonnement

SimpleBerry
⭐ 806 Python 👤 SimpleBerry Organization 🕐 Mis à jour 2024-12-03 📅 Créé 2024-10-10
40
prabanta-dev/janas

37 tok/s avec Qwen3-Next-80B (48 Go) sur un ordinateur portable de 32 Go ; 24 sans spéculation, contre 2,8 avec llama.cpp ; lecture à 62 contre 16 tok/s. Plus rapide que llama.cpp sur les 13 modèles comparés en Q4_K_M. Des LLM plus grands que votre RAM, en C pur, sur CPU ou GPU.

prabanta-dev
⭐ 738 C 👤 prabanta-dev Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2026-09-20
41
zhongkaifu/TensorSharp

Un moteur natif d’inférence de LLM .NET et un environnement d’exécution d’agents pour les modèles GGUF. TensorSharp fournit une application en ligne de commande, une interface de chatbot web, une application iPhone et des API HTTP compatibles avec Ollama/OpenAI pour un accès programmatique. Il prend en charge Windows, macOS, iOS et Linux avec une prise en charge complète du GPU.

zhongkaifu
⭐ 681 C# 👤 zhongkaifu User 🕐 Mis à jour 2026-11-20 📅 Créé 2026-04-03
42
hybridgroup/yzma

Progressez avec votre propre intelligence : écrivez des applications Go qui intègrent directement llama.cpp pour effectuer des inférences locales avec accélération matérielle sous Linux, macOS, Windows et WebAssembly.

hybridgroup
⭐ 677 Go 👤 hybridgroup Organization 🕐 Mis à jour 2026-11-19 📅 Créé 2025-09-21
43
gokayfem/ComfyUI_VLM_nodes

Nœuds ComfyUI pour les modèles vision-langage : Qwen3-VL, Moondream 3, Florence-2, SmolVLM2, InternVL, Gemma 3, MiniCPM-V. Inclut également la détection à vocabulaire ouvert, la segmentation SAM2/SAM3, le raisonnement temporel vidéo, GGUF via llama.cpp, et des API LLM/VLM hébergées.

gokayfem
⭐ 592 Python 👤 gokayfem User 🕐 Mis à jour 2026-08-08 📅 Créé 2024-01-24
44
kelindar/search

Bibliothèque Go pour la recherche vectorielle intégrée et les embeddings sémantiques utilisant llama.cpp

kelindar
⭐ 561 Go 👤 kelindar User 🕐 Mis à jour 2026-09-19 📅 Créé 2024-09-29
45
StartLuxLabs/StartLux-Prism

Inférence rapide et exacte des modèles StartLux-Decision sur GPU NVIDIA : les fichiers GGUF publiés s’exécutent sur des cœurs tensoriels int8 et 4 bits via l’API /v1/systemone, avec une latence jusqu’à 5,3 fois inférieure à celle de vLLM en FP8 et des réponses identiques au bit près.

StartLuxLabs
⭐ 560 Python 👤 StartLuxLabs Organization 🕐 Mis à jour 2026-10-27 📅 Créé 2026-10-13
46
Indras-Mirror/Xolotl

Xolotl : exécutez DeepSeek-V4.1-Flash, avec l’intégralité de ses 552B paramètres, comme agent de programmation local sur un seul PC gaming (RTX 4090 + 110 Go de RAM) : ~33 tok/s en mode agent, ~41 en mode rapide, avec un contexte de 512K. Également disponible : Inkling-2-Mini (Thinking Machines, moteur propriétaire + générateur d’ébauches MTP), GLM-5.3-Flash, Qwen3.8 et LFM3-Omni. Experts MoE répartis par niveaux entre la VRAM, la RAM et le NVMe (Xolotl Direct). API OpenAI + Anthropic.

Indras-Mirror
⭐ 549 C++ 👤 Indras-Mirror User 🕐 Mis à jour 2026-11-21 📅 Créé 2026-10-06
47
dllm-labs/mojo-dllm

Inférence locale pour les modèles de langage à diffusion (LLaDA, Dream), écrite en Mojo

dllm-labs
⭐ 546 Python 👤 dllm-labs Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2026-10-04
48
nyosegawa/speech.cpp

Synthèse vocale, reconnaissance vocale et détection d’activité vocale pour les conversations vocales, en C++ avec ggml : Qwen3-TTS, Irodori-TTS, Qwen3-ASR, ReazonSpeech, parakeet et Silero VAD sur Metal, Vulkan et le CPU, avec un serveur compatible avec OpenAI et une transcription en direct.

nyosegawa
⭐ 510 C++ 👤 nyosegawa User 🕐 Mis à jour 2026-11-20 📅 Créé 2026-09-29
49
AudarAI/Audar-ASR-V1

Reconnaissance vocale générative axée sur l'arabe — Audar-ASR-V1 (Flash + Turbo). N° 1 au classement Open Universal Arabic ASR. Fiches de modèle, benchmarks et inférence.

AudarAI
⭐ 503 Python 👤 AudarAI Organization 🕐 Mis à jour 2026-08-22 📅 Créé 2026-07-06
50
withcatai/catai

Exécutez un assistant IA ✨ en local ! avec une API simple pour Node.js 🚀

withcatai
⭐ 500 TypeScript 👤 withcatai Organization 🕐 Mis à jour 2025-11-16 📅 Créé 2023-03-25

Foire aux questions

1

Quel est le dépôt #gguf le plus populaire sur GitHub ?

Le projet #gguf open source le mieux classé sur GitHub est AlexsJones/llmfit, avec 39,174 étoiles. Des centaines de modèles et fournisseurs. Une seule commande pour trouver ce qui fonctionne sur votre matériel.

2

Quels langages de programmation sont les plus utilisés dans les dépôts #gguf ?

Parmi les projets #gguf les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, C++, TypeScript, Rust.

3

Comment le classement des dépôts #gguf est-il calculé ?

Nous suivons 49 dépôts open source actifs associés à #gguf (500+ étoiles), totalisant 165,186 étoiles, avec une moyenne de 3,371 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.