#local-llm Dépôts
122 dépôts au total
API TTS locale compatible OpenAI utilisant Chatterbox, qui permet aux utilisateurs de générer de la parole clonée partout où l'API OpenAI est utilisée (par ex. Open WebUI, AnythingLLM, etc.).
Un assistant de codage IA entièrement privé et local, développé par Gensyn. Il vous aide à vous entraîner sur des problèmes de programmation et à former un nouvel assistant pour vous aider à coder.
Assistant IA en ligne de commande entièrement open-source inspiré par OpenAI Codex, prenant en charge les modèles linguistiques locaux.
Exécutez un modèle d’IA de 105 Go sur un Mac qui ne peut pas le stocker. Qwen3.8-Flash-Next en 4 bits, chargé en continu depuis un SSD sur les Mac Apple Silicon dotés de 16 à 64 Go de mémoire. Entièrement natif en Swift, MLX et Metal. Hors ligne, sans Python. CLI, bibliothèque Swift et API Ollama/OpenAI/Anthropic. Compatible avec Claude Code et Codex.
Swiftlet est un environnement d'exécution Swift et Metal qui exécute de grands modèles Qwen Mixture-of-Experts localement sur les appareils Apple en diffusant les poids des experts depuis le stockage, permettant ainsi aux modèles 35B et 80B de fonctionner avec peu de RAM, y compris sur iPhone.
Inférence de LLM pair à pair dans le navigateur : mettez vos appareils en commun pour exécuter de grands modèles ouverts destinés aux agents conversationnels et de programmation.
Transformez votre téléphone Android en un serveur d’inférence LLM compatible avec OpenAI — entièrement local, privé et open source
un client de bureau LLM magique qui permet *à quiconque* d'utiliser facilement les LLM et MCP
Système d'exploitation pour agents IA auto-hébergé. Vos souvenirs, discussions, agents et fichiers restent sur votre propre matériel, hors ligne par défaut, dans le cloud par choix. Mémoire IA hors ligne (taOSmd), chat de groupe multi-framework auto-hébergé, bureau web complet + boutique d'applications, et clustering automatique sur le matériel grand public que vous possédez déjà (Orange/Raspberry Pi, Mac mini, PC de jeu).
Des agents personnels 100 % gratuits et open source pour vos applications de messagerie, outils et services
IDE alimenté par l'IA pour l'écriture de romans — LLM local + RAG, priorité à la confidentialité, BYOK. Pour les auteurs de fiction web et les écrivains créatifs.
Plateforme d’agents IA open source et auto-hébergée pour les coéquipiers IA de votre entreprise. Créez, exécutez et gouvernez des agents sur vos propres serveurs et modèles : chat partagé, RAG, compétences, navigateur réel, plus de 4 700 serveurs MCP, budgets, approbations et piste d’audit. Une alternative à ChatGPT Enterprise et Grok Bot. Sous licence Apache-2.0, construite avec Pydantic AI.
Une solution organisée pour construire un deuxième cerveau auto-évolutif qui aide les agents d'IA à comprendre votre contexte personnel et d'équipe.
Il ne corrigera pas votre bug. Il vous corrigera, vous. Le débogueur qui vous renvoie la question au lieu de la réponse.
Chat IA local pour iPhone, iPad et Mac. Connectez-vous à Ollama, LM Studio ou à tout serveur compatible avec OpenAI, ou exécutez des modèles MLX sur l’appareil. Inclut des outils et la recherche sur le Web.
Une façon plus simple d’utiliser l’IA sur votre propre ordinateur. Une alternative gratuite et open source à Claude et ChatGPT, qui exécute localement des modèles à poids ouverts comme Gemma et gpt-oss sur Mac, Windows et Linux. Respectueuse de la vie privée et utilisable hors ligne.
Xolotl : exécutez DeepSeek-V4.1-Flash, avec l’intégralité de ses 552B paramètres, comme agent de programmation local sur un seul PC gaming (RTX 4090 + 110 Go de RAM) : ~33 tok/s en mode agent, ~41 en mode rapide, avec un contexte de 512K. Également disponible : Inkling-2-Mini (Thinking Machines, moteur propriétaire + générateur d’ébauches MTP), GLM-5.3-Flash, Qwen3.8 et LFM3-Omni. Experts MoE répartis par niveaux entre la VRAM, la RAM et le NVMe (Xolotl Direct). API OpenAI + Anthropic.
Station de création IA full-stack privilégiant le local : cinq modules — conversation avec l’IA, bandes dessinées générées par IA, création de séries en format BD, espace d’écriture et apprentissage des connaissances — ; inférence locale avec plusieurs moteurs (vLLM / llama.cpp / Transformers), gestion intelligente de la mémoire vidéo, isolation en compartiments et autorétablissement. Réservé à l’apprentissage ; échanges et suggestions bienvenus. (En raison de restrictions liées au protocole, les dernières avancées, à l’exception du système de plugins, ne peuvent pas encore être envoyées dans le dépôt.)
Plateforme d’intelligence documentaire basée sur l’IA, privilégiant le stockage local, pour le journalisme d’investigation
Exécutez des LLM locaux tels que Gemma, Qwen et LLaMA sur Android pour discuter et répondre à des questions en temps réel, hors ligne et en toute confidentialité, avec LiteRT et ONNX Runtime.