Git Stars Git Stars

#local-llm Dépôts

122
Total des Dépôts
383,928
Nombre total d'étoiles
3,146
Moyenne d'Étoiles/Dépôt
51
theroyallab/tabbyAPI

Le serveur API officiel pour Exllama. Compatible OAI, léger et rapide.

theroyallab
⭐ 1,531 Python 👤 theroyallab Organization 🕐 Mis à jour 2026-11-14 📅 Créé 2023-11-10
52
ARahim3/mlx-tune

Ajustez finement les LLMs sur votre Mac avec Apple Silicon. SFT, DPO, GRPO, Vision, TTS, STT, Embedding et ajustement fin d'OCR — nativement sur MLX. API compatible avec Unsloth.

ARahim3
⭐ 1,475 Python 👤 ARahim3 User 🕐 Mis à jour 2026-06-23 📅 Créé 2026-01-03
53
jofizcd/Soul-of-Waifu

🌌 Donnez une âme à vos personnages préférés. Soul of Waifu est une application de jeu de rôle et de compagnon IA pour ordinateur, dotée d'avatars Live2D/VRM, de chat vocal et d'un LLM local. Évoluez ensemble grâce à des discussions immersives, des aventures RPG et une intégration sur votre bureau.

jofizcd
⭐ 1,474 Python 👤 jofizcd User 🕐 Mis à jour 2026-08-28 📅 Créé 2023-09-02
54
obsei/obsei

Solution open source d’analyse de la voix du client, axée sur la confidentialité. Une alternative auto-hébergée à Enterpret et Unwrap qui supprime les données personnelles des retours avant qu’un LLM ne les traite.

obsei
⭐ 1,454 Python 👤 obsei Organization 🕐 Mis à jour 2026-11-15 📅 Créé 2020-10-25
55
peonist-ai/halogen-flash-server

Inférence locale au comportement comparable à celui d’une API de pointe : Qwen3.8-Flash-Next sur AMD Strix Halo, ainsi que de petits modèles NPU, via les API d’OpenAI et d’Anthropic sur un seul port.

peonist-ai
⭐ 1,412 Shell 👤 peonist-ai Organization 🕐 Mis à jour 2026-11-18 📅 Créé 2026-08-26
56
synchopate/llama-modchip

Inférence sur CPU sans GPU pour les modèles MoE de 30B à 284B (Qwen3.8 176.5B certifié avec cache froide dans Cgroup v2 à 28,26/48,35 Gio, DeepSeek-V4 284B, Nemotron-30B) + RouteCrack 2.0.

synchopate
⭐ 1,398 Python 👤 synchopate User 🕐 Mis à jour 2026-11-21 📅 Créé 2026-10-29
57
linyiLYi/voice-assistant

Une simple démo jouet d'un assistant vocal local avec whisper et un grand modèle linguistique.

linyiLYi
⭐ 1,329 Python 👤 linyiLYi User 🕐 Mis à jour 2024-04-30 📅 Créé 2023-12-09
58
simplexai-labs/PolyStrata

Exécutez de grands modèles d’IA sur votre propre PC : Qwen3.8-Flash-Next avec le moteur de Strata, et GLM 5.3 Flash, DeepSeek V4 Flash, LFM2.5, Qwen3.6, Ornith 1.5, Gemma 4, Tiel Coder et MiniCPM-V avec un second moteur conçu pour PolyStrata. Installation en un clic sous Windows et Linux, avec une API OpenAI/Anthropic sur localhost.

simplexai-labs
⭐ 1,324 C++ 👤 simplexai-labs Organization 🕐 Mis à jour 2026-11-18 📅 Créé 2026-10-06
59
ASCIT31/Dark-Moon

Tests d’intrusion autonomes par IA open source. 50 agents spécialisés couvrant le web, les API, le cloud, Active Directory, Kubernetes, CI/CD et l’IA/les LLM (OWASP LLM Top 10), avec un graphe des chemins d’attaque vérifié par des preuves. Fonctionne avec un LLM local derrière une passerelle de confidentialité. S’intègre à GitHub, GitLab, Jenkins, VS Code, JetBrains, n8n, Grafana et Splunk.

ASCIT31
⭐ 1,279 Python 👤 ASCIT31 Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2024-11-26
60
wici-ai/inferssd

Exécutez des modèles dont la taille dépasse la capacité de votre RAM ou VRAM en diffusant les experts MoE depuis un SSD. Basé sur llama.cpp.

wici-ai
⭐ 1,277 C++ 👤 wici-ai Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2026-10-22
61
HelgeSverre/ollama-gui

Une interface web pour discuter avec vos LLM locaux via l'API ollama

HelgeSverre
⭐ 1,272 TypeScript 👤 HelgeSverre User 🕐 Mis à jour 2026-11-16 📅 Créé 2023-10-08
62
DasterProkio/awesome-ai-companion

Compagnons IA open source, animaux de bureau, mémoire à long terme et chat proactif. Répertoire complet de projets open source de romance humain-IA. Permettez à votre IA locale d'exister indépendamment des plateformes officielles, dotée de mémoire et de proactivité.

DasterProkio
⭐ 1,248 HTML 👤 DasterProkio User 🕐 Mis à jour 2026-11-21 📅 Créé 2026-07-03
63
0xSojalSec/LLMs-local

Liste de plates-formes, d'outils et de ressources géniales pour exécuter des LLMs localement

0xSojalSec
⭐ 1,206 👤 0xSojalSec User 🕐 Mis à jour 2026-06-10 📅 Créé 2025-12-17
64
StayLameBro/backburner

Votre iPhone aide votre Mac à exécuter un modèle de 27 milliards de paramètres : lecture plus rapide des invites et davantage de contexte via un câble USB-C

StayLameBro
⭐ 1,195 Python 👤 StayLameBro User 🕐 Mis à jour 2026-11-07 📅 Créé 2026-10-01
65
mrphrazer/reverser_ai

Fournit une assistance automatisée en ingénierie inverse grâce à l'utilisation de grands modèles linguistiques (LLM) locaux sur du matériel grand public.

mrphrazer
⭐ 1,176 Python 👤 mrphrazer User 🕐 Mis à jour 2026-05-20 📅 Créé 2024-03-17
66
AllAboutAI-YT/easy-local-rag

RAG 100 % local SuperFacile avec Ollama + RAG par e-mail

AllAboutAI-YT
⭐ 1,175 Python 👤 AllAboutAI-YT User 🕐 Mis à jour 2024-06-04 📅 Créé 2024-04-15
67
agents-io/PokeClaw

PokeClaw (PocketClaw) — première IA on-device qui contrôle votre téléphone Android. Gemma 4, sans cloud, sans clé API. Poke est l'abréviation de Pocket.

agents-io
⭐ 1,165 Kotlin 👤 agents-io Organization 🕐 Mis à jour 2026-06-02 📅 Créé 2026-04-06
68
hyperionaidev/smolmaxxing

Maximiser la capacité à exécuter différents LLM sur les appareils les plus petits possible

hyperionaidev
⭐ 1,079 C 👤 hyperionaidev Organization 🕐 Mis à jour 2026-11-19 📅 Créé 2026-11-04
69
pguso/agents-from-scratch

Créez des agents IA à partir des premiers principes en utilisant une LLM locale – sans framework, sans API cloud et sans raisonnement caché.

pguso
⭐ 1,079 Python 👤 pguso User 🕐 Mis à jour 2026-07-25 📅 Créé 2025-12-22
70
mrkrsl/web-search-mcp

Un serveur MCP de recherche Web simple, hébergé localement, pour une utilisation avec des LLM locaux

mrkrsl
⭐ 1,072 TypeScript 👤 mrkrsl User 🕐 Mis à jour 2025-08-08 📅 Créé 2025-06-27
71
pepperoni21/ollama-rs

Une bibliothèque simple et facile à utiliser pour interagir avec l'API Ollama.

pepperoni21
⭐ 1,062 Rust 👤 pepperoni21 User 🕐 Mis à jour 2026-11-18 📅 Créé 2023-11-02
72
metadist/synaplan

Maîtrisez vos flux : une plateforme d’IA open source pour vos connaissances, vos modèles et vos canaux — web, WhatsApp, e-mail, Outlook, Nextcloud et ownCloud. Modèles locaux et cloud côte à côte, avec le coût de chaque réponse.

metadist
⭐ 1,045 PHP 👤 metadist Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2025-03-30
73
PotterRemember37/Capri-AI-Desktop

Capri — un agent IA de bureau inspiré d’Edgerunners. Compatible avec Claude 3.7, Claude Code, OpenAI et Ollama/LLaMA en local. Compagne waifu IA personnalisable avec chat vocal.

PotterRemember37
⭐ 1,040 Python 👤 PotterRemember37 User 🕐 Mis à jour 2026-11-11 📅 Créé 2026-08-15
74
jegly/Box

La suite d'IA côté client la plus avancée et entièrement hors ligne disponible aujourd'hui sur Android.

jegly
⭐ 1,035 Kotlin 👤 jegly User 🕐 Mis à jour 2026-11-21 📅 Créé 2026-04-17
75
kennss/SiliconScope

Moniteur système Apple Silicon sans sudo (interface graphique native SwiftUI) avec suivi ANE / Moteur multimédia / bande passante mémoire

kennss
⭐ 1,026 Swift 👤 kennss User 🕐 Mis à jour 2026-11-20 📅 Créé 2026-06-08
76
wangeai/K3Flight

Exécutez Kimi K3 localement sur CPU avec environ 55 Go de RAM d'exécution mesurée. Un serveur d'inférence Linux à fichier unique propulsé par cPilot Runtime.

wangeai
⭐ 1,019 HTML 👤 wangeai Organization 🕐 Mis à jour 2026-07-31 📅 Créé 2026-07-30
77
sgaofen/humanizer-local-model

Réécrit les brouillons générés par l’IA pour leur donner un ton humain — fonctionne en local et préserve les faits

sgaofen
⭐ 1,010 Python 👤 sgaofen User 🕐 Mis à jour 2026-10-19 📅 Créé 2026-09-11
78
OleksandrChekhovskyi/hax

Un agent de programmation minimaliste et natif du terminal, écrit en C.

OleksandrChekhovskyi
⭐ 1,006 C 👤 OleksandrChekhovskyi User 🕐 Mis à jour 2026-11-13 📅 Créé 2026-04-24
79
patruff/ollama-mcp-bridge

Pont entre les serveurs Ollama et MCP, permettant aux LLM locaux d'utiliser les outils du Model Context Protocol

patruff
⭐ 973 TypeScript 👤 patruff User 🕐 Mis à jour 2025-04-20 📅 Créé 2024-12-12
80
feder-cr/jev

jevos : une alternative open source à Jev et Microsoft-Decision-1. Des décisions par oui ou non, des choix et des scores avec des probabilités, sur le processeur de votre ordinateur portable.

feder-cr
⭐ 970 C++ 👤 feder-cr User 🕐 Mis à jour 2026-10-18 📅 Créé 2024-08-15
81
kossakovsky/selfhost-ai

Installateur en une seule commande pour une stack d’IA auto-hébergée sur votre propre serveur : n8n, Ollama, Open WebUI, OpenClaw, Dify, Flowise, Supabase, ComfyUI, Qdrant et plus de 30 outils. Docker Compose, HTTPS automatique via Caddy et supervision intégrée. Alternative gratuite à Zapier/Make.

kossakovsky
⭐ 964 Shell 👤 kossakovsky User 🕐 Mis à jour 2026-10-27 📅 Créé 2025-05-05
82
orneryd/NornicDB

Nornicdb est une base de données distribuée à faible latence, Graph+Vector et MVCC temporel, offrant une recherche HNSW, un parcours de graphe et des écritures en moins d'une milliseconde. Grâce à l'utilisation de Neo4j Bolt/Cypher et du gRPC de qdrant, vous pouvez effectuer la transition sans aucun changement tout en ajoutant des fonctionnalités intelligentes telles que les schémas, les embeddings gérés, le reranking+LLM, l'accélération GPU, l'Auto-TLP, la dégradation de la mémoire basée sur des politiques et un serveur MCP.

orneryd
⭐ 933 Go 👤 orneryd User 🕐 Mis à jour 2026-11-21 📅 Créé 2025-12-06
83
mrdbourke/simple-local-rag

Créez un pipeline RAG (Retrieval Augmented Generation) à partir de zéro et faites-le fonctionner entièrement localement.

mrdbourke
⭐ 923 Jupyter Notebook 👤 mrdbourke User 🕐 Mis à jour 2024-05-25 📅 Créé 2024-03-13
84
hehehai/VoxtMini

Saisie vocale pour macOS avec des modèles locaux : transcrivez, traduisez et reformulez dans n’importe quelle app. Le successeur de Voxt.

hehehai
⭐ 916 Go 👤 hehehai User 🕐 Mis à jour 2026-11-21 📅 Créé 2026-02-26
85
genex-games/genex-desktop

Application de bureau open source pour le développement de jeux natif de l’IA. Créez avec Unreal Engine, Unity, Godot, Roblox ou Three.js en utilisant n’importe quelle IA, y compris des modèles locaux.

genex-games
⭐ 901 TypeScript 👤 genex-games Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2026-10-02
86
bernardo-bruning/ollama-copilot

Proxy qui vous permet d'utiliser ollama comme un copilot similaire à Github Copilot

bernardo-bruning
⭐ 887 Go 👤 bernardo-bruning User 🕐 Mis à jour 2026-09-14 📅 Créé 2024-04-25
87
Pangu-Immortal/MagicWX

Prototype de LLM local Android 17 avec Jetpack Compose et ONNX Runtime pour des expériences d'inférence IA hors ligne.

Pangu-Immortal
⭐ 864 Kotlin 👤 Pangu-Immortal User 🕐 Mis à jour 2026-11-09 📅 Créé 2019-05-08
88
gavamedia/deltafin

Exécutez Kimi K3 complet sur un seul appareil. Et un serveur API compatible avec OpenAI pour les agents de chat et de codage locaux.

gavamedia
⭐ 862 Rust 👤 gavamedia Organization 🕐 Mis à jour 2026-10-04 📅 Créé 2026-07-28
89
kytmanov/obsidian-llm-wiki-local

Wiki LLM de Karpathy, 100% local avec Ollama. Déposez des notes Markdown → IA extrait les concepts → votre wiki Obsidian se lie automatiquement et grandit. Zéro partage. Vos notes restent vôtres.

kytmanov
⭐ 855 Python 👤 kytmanov User 🕐 Mis à jour 2026-05-26 📅 Créé 2026-04-07
90
nace-ai/kapitsa

Moteur d’inférence ultra-rapide pour Apple Silicon, optimisé pour Qwen et Nemotron. Compatible avec les API d’OpenAI et d’Anthropic. Créé par l’équipe de nace.ai

nace-ai
⭐ 840 C++ 👤 nace-ai Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2026-10-16
91
jonigl/mcp-client-for-ollama

Exploitez la puissance des LLM locaux avec ce client TUI MCP pour Ollama. Doté de toutes les primitives MCP de base (outils, invites, ressources), mode agent, multi-serveur, changement de modèle, réponses en streaming, humain dans la boucle, mode réflexion, configuration des paramètres du modèle, invites système et préférences enregistrées.

jonigl
⭐ 837 Python 👤 jonigl User 🕐 Mis à jour 2026-11-19 📅 Créé 2025-04-23
92
nkasmanoff/pi-card

Assistant Vocal Raspberry Pi

nkasmanoff
⭐ 808 Python 👤 nkasmanoff User 🕐 Mis à jour 2024-12-22 📅 Créé 2024-05-04
93
tetherto/qvac

SDK d’IA locale open source : exécutez l’IA sur l’appareil, sans cloud ni clés API. Prend en charge GGUF, RAG, la génération d’images, de musique et de vidéos, la conversion de la parole en texte, l’inférence P2P et bien plus encore. Multiplateforme : Linux, macOS, Windows, Android et iOS.

tetherto
⭐ 806 TypeScript 👤 tetherto Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2026-01-03
94
karthik-codex/Autogen_GraphRAG_Ollama

Microsoft GraphRAG + AutoGen + Ollama + Chainlit = Superbot RAG Multi-Agent Entièrement Local et Gratuit

karthik-codex
⭐ 761 Python 👤 karthik-codex User 🕐 Mis à jour 2024-07-20 📅 Créé 2024-07-07
95
ILikeAI/AlwaysReddy

AlwaysReddy est un assistant vocal LLM qui est toujours à portée de raccourci clavier.

ILikeAI
⭐ 760 Python 👤 ILikeAI User 🕐 Mis à jour 2025-03-04 📅 Créé 2024-01-24
96
jart/emacs-copilot

Complétion de code par un grand modèle linguistique pour Emacs

jart
⭐ 758 Emacs Lisp 👤 jart User 🕐 Mis à jour 2024-01-07 📅 Créé 2023-12-31
97
ARahim3/mlx-dspark

Décodage des LLM jusqu’à 4× plus rapide sur Apple Silicon, sans perte. Portage MLX natif du décodage spéculatif DSpark de DeepSeek et DFlash de z-lab — Gemma-4, Qwen3.8, Muse-Glimmer, Nemotron, LFM2.5, Ornith-1.0 et Bonsai-27B ternaire.

ARahim3
⭐ 743 Python 👤 ARahim3 User 🕐 Mis à jour 2026-11-08 📅 Créé 2026-06-29
98
notatestuser/ds4-control

Application macOS dans la barre des menus pour utiliser rapidement DeepSeek V4.1 en local, avec un contexte d’un million de tokens.

notatestuser
⭐ 740 Swift 👤 notatestuser User 🕐 Mis à jour 2026-10-26 📅 Créé 2026-05-29
99
prabanta-dev/janas

37 tok/s avec Qwen3-Next-80B (48 Go) sur un ordinateur portable de 32 Go ; 24 sans spéculation, contre 2,8 avec llama.cpp ; lecture à 62 contre 16 tok/s. Plus rapide que llama.cpp sur les 13 modèles comparés en Q4_K_M. Des LLM plus grands que votre RAM, en C pur, sur CPU ou GPU.

prabanta-dev
⭐ 738 C 👤 prabanta-dev Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2026-09-20
100
andersrex/notesollama

Utilisez Ollama pour parler à des LLM locaux dans Notes Apple

andersrex
⭐ 711 Swift 👤 andersrex User 🕐 Mis à jour 2025-08-04 📅 Créé 2024-02-19