#llama-cpp Dépôts
Découvrez 69 dépôts GitHub open source actifs associés à #llama-cpp, cumulant 212,421 étoiles au total (soit une moyenne de 3,078 étoiles par projet). Le projet en tête de ce thème est QwenLM/Qwen3, avec 27,753 étoiles.
69 dépôts au total
Qwen3 est la série de grands modèles linguistiques développée par l'équipe Qwen d'Alibaba Cloud.
L’application de dictée pour macOS la plus rapide, et la seule à proposer la transcription vocale directement sur l’appareil (STT) et un modèle d’amélioration par IA entraîné sur mesure. Disponible pour Windows et sur TestFlight pour iOS ! Liste d’attente ouverte pour Android et Linux ! Une alternative locale à Wispr Flow. Suivez https://x.com/fluidvoiceapp pour en savoir plus.
Un chatbot auto-hébergé, hors ligne, similaire à ChatGPT. Propulsé par Llama 2. 100% privé, aucune donnée ne quitte votre appareil. Nouveauté : prise en charge de Code Llama !
Modèle SenseVoiceSmall open source pour la reconnaissance vocale en mandarin, cantonais, anglais, japonais et coréen, identification de la langue, reconnaissance des émotions et détection d'événements audio.
Plateforme d’inférence open source pour les modèles de langage, de vision, d’embeddings, de reclassement, d’image, d’audio et de vidéo. Déployez plusieurs moteurs sur du matériel hétérogène, d’un ordinateur portable à un cluster distribué. Servez des modèles via des API compatibles avec OpenAI.
Une application qui apporte les modèles de langage directement sur votre téléphone.
Préversion d’ODS V3 : tests publics et améliorations avant le lancement officiel de V3. Transformez votre PC, Mac ou machine Linux en serveur d’IA privé.
Recherchez sur votre ordinateur en fonction du contenu de vos fichiers : photos, PDF, documents, enregistrements, vidéos et code. Fonctionne localement sur Mac, Windows et Linux, et repose sur EmbeddingGemma 2 de Google DeepMind.
Une bibliothèque C#/.NET pour exécuter efficacement des LLM (🦙LLaMA/LLaVA) sur votre appareil local.
Atomic Agent est un agent d’IA privilégiant l’exécution locale. Il exécute des modèles à poids ouverts sur votre propre machine via llama.cpp.
Vous avez atteint la limite d’utilisation de Claude Code ? Continuez gratuitement et hors ligne avec un modèle local : Qwen 3.8, Gemma 4 et Qwen 4 dès sa sortie. Fonctionne sur les Mac avec puce Apple (MLX), Linux et Windows (llama.cpp), sans clé API. Votre code reste chez vous.
Le couteau suisse de l'IA hors ligne. Discutez, voyez, parlez et générez des images sur votre téléphone ou Mac — LLM GGUF, vision, transcription vocale Whisper, Stable Diffusion, appels d'outils et serveurs réseau locaux. Fonctionne sur votre CPU, GPU ou NPU. Aucun compte, aucune clé API, aucune donnée ne quitte votre appareil.
Plateforme de compétences de caméras IA open‑source, NVR IA et surveillance CCTV. Analyse vidéo VLM locale avec Qwen, DeepSeek, SmolVLM, LLaVA, YOLO26. Agent de caméra de sécurité alimenté par LLM — surveille, comprend, se souvient et protège votre domicile via Telegram, Discord ou Slack. Compétences IA modulables. OpenAI, Google, Anthropic ou IA locale. Fonctionne sur Mac Mini et PC IA.
Des notes de réunion privées grâce à l’IA, qui restent sur votre ordinateur. Aucun bot de réunion. Gratuit et open source pour Mac, Windows et Linux. Une alternative à Granola, Otter et Fireflies.
Maid est une application gratuite et open source permettant d’interagir avec les modèles llama.cpp localement, ainsi qu’avec les modèles Anthropic, DeepSeek, Ollama, Mistral et OpenAI à distance.
Un framework Python pour l'appel d'outils LLM auto-hébergés et les flux de travail agents multi-étapes
Exécutez des modèles d'IA localement sur votre machine avec des liaisons Node.js pour llama.cpp. Appliquez un schéma JSON à la sortie du modèle au niveau de la génération.
Plusieurs GPU NVIDIA ou Apple Silicon pour l'inférence de grands modèles linguistiques ?
L’orchestrateur de micro-agents qui surveille tout pour vous. Fonctionne entièrement en local. Open source.
Ce cours est conçu pour guider les débutants dans le monde passionnant de l'IA en périphérie (Edge AI), couvrant les concepts fondamentaux, les modèles populaires, les techniques d'inférence, les applications spécifiques aux appareils, l'optimisation des modèles et le développement d'agents IA intelligents en périphérie.
Modèles de décision ouverts de 0,8B à 27B : une probabilité calibrée pour chaque option en un seul passage, et un bref raisonnement uniquement en cas d’incertitude. Moteur pour vLLM, llama.cpp et MLX.
Faites apparaître votre corps dans les données. Une seule norme, toutes les sources, un portrait complet de vous : un dossier de santé auto-hébergé, constitué de résultats d’analyses, de données de dispositifs connectés et d’informations génétiques. Chaque chiffre est relié à sa source et un serveur MCP est intégré. Lancez-le avec Docker et une clé LLM, ou gardez tous les modèles en local avec llama.cpp.
Modèles de reconnaissance vocale Fun-ASR, avec prise en charge native de Hugging Face Transformers pour Fun-ASR-Nano et des voies de déploiement distinctes pour FunASR, vLLM et llama.cpp.
Serveur API compatible avec Jev pour les modèles de décision ouverts. Ollama pour les modèles de décision : téléchargez et exécutez localement 29 familles de modèles (Laya, pplx-decider, Clef, Winnow, coba...), ou hébergez-les vous-même derrière /v1/systemone. Le SDK TypeSafe fonctionne sans modification : définissez son URL de base et choisissez un modèle ouvert. CLI, application de bureau, Docker, serveur MCP et benchmark public.
Inférence sur CPU sans GPU pour les modèles MoE de 30B à 284B (Qwen3.8 176.5B certifié avec cache froide dans Cgroup v2 à 28,26/48,35 Gio, DeepSeek-V4 284B, Nemotron-30B) + RouteCrack 2.0.
Traducteur d'écran en temps réel pour Android, open source et sans root, adapté aux jeux, aux visual novels et aux mangas. Prend en charge l'OCR sur appareil et dans le cloud, les LLM hors ligne, plusieurs services de traduction, les traductions à l'écran et la synthèse vocale (TTS).
Accélérez les hôtes à grande mémoire et à calcul clairsemé à l’aide de cartes de calcul dense, notamment AI Max+ 395, M3 512G et DGX Spark.
Exécutez des modèles dont la taille dépasse la capacité de votre RAM ou VRAM en diffusant les experts MoE depuis un SSD. Basé sur llama.cpp.
Votre iPhone aide votre Mac à exécuter un modèle de 27 milliards de paramètres : lecture plus rapide des invites et davantage de contexte via un câble USB-C
Cotabby est l'autocomplétion IA locale pour l'ensemble de votre Mac. Open source. Sur l'appareil. Partout où vous tapez.
Maximiser la capacité à exécuter différents LLM sur les appareils les plus petits possible
Créez et exécutez des agents IA à l'aide de Docker Compose. Une collection d'exemples prêts à l'emploi pour orchestrer des LLM open-source, des outils et des runtimes d'agents.
Exécutez des modèles MoE plus volumineux que votre RAM. Des MoE de pointe sur un téléphone, un ordinateur portable ou un appareil edge. Sans perte, avec llama.cpp standard. Un optimiseur adaptatif en streaming. Tout matériel, tout système d’exploitation, tout modèle et toute quantification, via un serveur local compatible avec OpenAI.
Application de démarrage pour PC IA pour la création d'images IA, la stylisation d'images et le chatbot sur un PC alimenté par un GPU Intel® Arc™.
Moniteur système Apple Silicon sans sudo (interface graphique native SwiftUI) avec suivi ANE / Moteur multimédia / bande passante mémoire
Réécrit les brouillons générés par l’IA pour leur donner un ton humain — fonctionne en local et préserve les faits
Un remplacement compatible avec l'API et prêt à l'emploi pour le framework Foundation Models d'Apple avec la prise en charge des fournisseurs de modèles linguistiques personnalisés.
jevos : une alternative open source à Jev et Microsoft-Decision-1. Des décisions par oui ou non, des choix et des scores avec des probabilités, sur le processeur de votre ordinateur portable.
Un CLI pour estimer les exigences en mémoire d'inférence des modèles Hugging Face, écrit en Python.
Foire aux questions
Quel est le dépôt #llama-cpp le plus populaire sur GitHub ?
Le projet #llama-cpp open source le mieux classé sur GitHub est QwenLM/Qwen3, avec 27,753 étoiles. Qwen3 est la série de grands modèles linguistiques développée par l'équipe Qwen d'Alibaba Cloud.
Quels langages de programmation sont les plus utilisés dans les dépôts #llama-cpp ?
Parmi les projets #llama-cpp les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, TypeScript, C++, Swift.
Comment le classement des dépôts #llama-cpp est-il calculé ?
Nous suivons 69 dépôts open source actifs associés à #llama-cpp (500+ étoiles), totalisant 212,421 étoiles, avec une moyenne de 3,078 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.