#on-device-ai Dépôts
Découvrez 68 dépôts GitHub open source actifs associés à #on-device-ai, cumulant 183,992 étoiles au total (soit une moyenne de 2,705 étoiles par projet). Le projet en tête de ce thème est cactus-compute/cactus, avec 14,864 étoiles.
69 dépôts au total
Intelligence agentique, vocale et visuelle de moins de 50 Mo pour les appareils grand public.
Modèles de fondation natifs de l’appareil : 145B sur un ordinateur portable, 35B sur un téléphone. MoE latent, poids diffusés depuis le SSD et routeur qui prédit les charges avec une étape d’avance. Mac, iPhone, Android, Windows.
Boîte à outils prête pour la production pour exécuter l'IA localement
Exécutez localement des LLM et VLM de pointe sur les appareils Qualcomm via NPU, GPU et CPU avec quelques lignes de code
Ce dépôt contient l'implémentation officielle de "FastVLM: Efficient Vision Encoding for Vision Language Models" - CVPR 2025
Inférence de Gemma 4 26B-A4B avec environ 2 Go de RAM sur n'importe quel MacBook de la série M
LiteRT-LM est le framework d'inférence open source de Google, prêt pour la production et hautes performances, destiné au déploiement de grands modèles de langage sur des appareils de périphérie.
Quantification sur 2 bits, noyaux et environnement d’exécution pour les appareils grand public.
Un nœud Android centré sur l’humain et économe en ressources, destiné à l’informatique en périphérie et à l’apprentissage fédéré. Il orchestre l’intelligence distribuée grâce à une localisation privilégiant la confidentialité et à une gestion attentionnée du matériel.
IA que vous contrôlez : Choisissez vos modèles. Possédez vos données. Éliminez le verrouillage du fournisseur.
Vous avez atteint la limite d’utilisation de Claude Code ? Continuez gratuitement et hors ligne avec un modèle local : Qwen 3.8, Gemma 4 et Qwen 4 dès sa sortie. Fonctionne sur les Mac avec puce Apple (MLX), Linux et Windows (llama.cpp), sans clé API. Votre code reste chez vous.
Un outil de gestion de fichiers alimenté par l'IA qui garantit la confidentialité en organisant les textes et images locaux. Utilisant les modèles Llama3.2 3B et Llava v1.6 avec le SDK Nexa, il analyse, restructure et organise intuitivement les fichiers pour un accès rapide et transparent et une récupération facile.
Mano-P : Agent GUI-VLA open-source pour appareils de bord. N°1 sur OSWorld (spécialisé, 58,2 %). S'exécute localement sur Apple M4 Mac mini/MacBook — aucune donnée ne quitte votre appareil. Mano-P est un projet GUI-VLA open-source qui prend en charge l'inférence locale sur Mac mini/MacBook ou via une clé de calcul, permettant des opérations d'automatisation GUI multiplateforme pilotées uniquement par la vision. Les données sont traitées entièrement localement, avec prise en charge de la planification et de l'exécution de tâches complexes en plusieurs étapes.
IA multimodale en temps réel sur appareil avec des fonctionnalités similaires à GPT-Live
Moteur d’IA de périphérie en C++ de niveau production pour l’analyse vidéo et les VLM sur appareil sur Sophon, Rockchip RKNN et x86, avec orchestration visuelle, OSD en temps réel, événements et benchmarks reproductibles.
Core ML model zoo pour iOS/macOS — Modèles PyTorch convertis en .mlpackage prêts à l'emploi, chacun avec un script de conversion et une application exemple en SwiftUI. Les dépôts associés couvrent le framework Core AI d'Apple (iOS/macOS 27) et les LLM sur appareil.
Bibliothèque d'inférence d'IA sur l'appareil pour React Native, haute performance et axée sur la confidentialité, propulsée par le runtime ExecuTorch de PyTorch
NobodyWho est un moteur d'inférence qui vous permet d'exécuter des LLM localement et efficacement sur n'importe quel appareil.
Muesli : transcription locale de réunions et dictée natives pour les agents sur macOS (alternative à Granola + WisprFlow + Littlebird)
Saisie vocale gratuite et open source pour macOS et Windows. Transcription vocale locale avec Whisper et Parakeet, également disponible hors ligne.
Décisions typées Laya en local sur Apple Core ML et Neural Engine. Ports validés, décisions courtes d’environ 5 ms sur M3 Max, avec des benchmarks reproductibles de vitesse et de consommation énergétique.
Nativ est une application d’IA locale open source pour Mac. Elle exécute des modèles d’IA ouverts sur Apple Silicon, et rien ne quitte votre Mac.
Ajustez finement les LLMs sur votre Mac avec Apple Silicon. SFT, DPO, GRPO, Vision, TTS, STT, Embedding et ajustement fin d'OCR — nativement sur MLX. API compatible avec Unsloth.
MobileLLM Optimisation des modèles linguistiques de moins d'un milliard de paramètres pour les cas d'utilisation sur appareil. À l'ICML 2024.
[ICLR 2019] ProxylessNAS : Recherche directe d'architecture neuronale sur la tâche cible et le matériel
Exécution LLM sur appareil dans React Native avec compatibilité Vercel AI SDK
PhoneClaw transforme les téléphones en environnements d'exécution d'agents IA locaux avec des modèles sur l'appareil, des compétences mobiles natives, LiveLand et une inférence facultative via Mac Gateway.
Un laboratoire pratique pour créer, tester et évaluer des applications avec le framework de modèles de fondation d'Apple.
PokeClaw (PocketClaw) — première IA on-device qui contrôle votre téléphone Android. Gemma 4, sans cloud, sans clé API. Poke est l'abréviation de Pocket.
Implémentation PyTorch officielle de "EdgeSAM : distillation par boucle d'invites pour le déploiement sur appareil de SAM"
NativeMind : Votre assistant IA entièrement privé, open-source et sur appareil
Exécutez des modèles MoE plus volumineux que votre RAM. Des MoE de pointe sur un téléphone, un ordinateur portable ou un appareil edge. Sans perte, avec llama.cpp standard. Un optimiseur adaptatif en streaming. Tout matériel, tout système d’exploitation, tout modèle et toute quantification, via un serveur local compatible avec OpenAI.
Application de démarrage pour PC IA pour la création d'images IA, la stylisation d'images et le chatbot sur un PC alimenté par un GPU Intel® Arc™.
Moniteur système Apple Silicon sans sudo (interface graphique native SwiftUI) avec suivi ANE / Moteur multimédia / bande passante mémoire
[CVPR 2025] Implémentation officielle PyTorch de "EdgeTAM : On-Device Track Anything Model"
jevos : une alternative open source à Jev et Microsoft-Decision-1. Des décisions par oui ou non, des choix et des scores avec des probabilités, sur le processeur de votre ordinateur portable.
Assistant IA local et open-source pour vos données. Unifiez tâches, notes, documents, photos et favoris. Privé, auto-hébergé et extensible via des API.
Serveur d'API compatible avec OpenAI pour les modèles sur appareil Apple
Couche mémoire partagée dans un fichier unique pour tous vos agents, RAG en moins d’une milliseconde sur du texte, des photos et des vidéos sur Apple Silicon. Aucun serveur. Aucune API. Un seul fichier. Swift pur.
SDK d’IA locale open source : exécutez l’IA sur l’appareil, sans cloud ni clés API. Prend en charge GGUF, RAG, la génération d’images, de musique et de vidéos, la conversion de la parole en texte, l’inférence P2P et bien plus encore. Multiplateforme : Linux, macOS, Windows, Android et iOS.
Foire aux questions
Quel est le dépôt #on-device-ai le plus populaire sur GitHub ?
Le projet #on-device-ai open source le mieux classé sur GitHub est cactus-compute/cactus, avec 14,864 étoiles. Intelligence agentique, vocale et visuelle de moins de 50 Mo pour les appareils grand public.
Quels langages de programmation sont les plus utilisés dans les dépôts #on-device-ai ?
Parmi les projets #on-device-ai les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, Swift, C++, TypeScript.
Comment le classement des dépôts #on-device-ai est-il calculé ?
Nous suivons 68 dépôts open source actifs associés à #on-device-ai (500+ étoiles), totalisant 183,992 étoiles, avec une moyenne de 2,705 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.