#local-inference Dépôts
Découvrez 19 dépôts GitHub open source actifs associés à #local-inference, cumulant 116,603 étoiles au total (soit une moyenne de 6,137 étoiles par projet). Le projet en tête de ce thème est oobabooga/textgen, avec 47,736 étoiles.
19 dépôts au total
Application de bureau open-source pour les LLM locaux. Texte, vision, appel d'outils, API compatible OpenAI/Anthropic. 100% privé.
Service de grands modèles linguistiques à haute vitesse pour le déploiement local
Mano-P : Agent GUI-VLA open-source pour appareils de bord. N°1 sur OSWorld (spécialisé, 58,2 %). S'exécute localement sur Apple M4 Mac mini/MacBook — aucune donnée ne quitte votre appareil. Mano-P est un projet GUI-VLA open-source qui prend en charge l'inférence locale sur Mac mini/MacBook ou via une clé de calcul, permettant des opérations d'automatisation GUI multiplateforme pilotées uniquement par la vision. Les données sont traitées entièrement localement, avec prise en charge de la planification et de l'exécution de tâches complexes en plusieurs étapes.
CORTEX RAG est un assistant d'entreprise de récupération et de connaissances qui aide les équipes à trouver des réponses précises à partir des données de l'entreprise avec des citations, une récupération tenant compte des autorisations et un déploiement rapide.
Serveur API compatible avec Jev pour les modèles de décision ouverts. Ollama pour les modèles de décision : téléchargez et exécutez localement 29 familles de modèles (Laya, pplx-decider, Clef, Winnow, coba...), ou hébergez-les vous-même derrière /v1/systemone. Le SDK TypeSafe fonctionne sans modification : définissez son URL de base et choisissez un modèle ouvert. CLI, application de bureau, Docker, serveur MCP et benchmark public.
Prise en charge des modèles locaux pour Graphrag de Microsoft à l'aide d'ollama (llama3, mistral, gemma2 phi3) – Extraction LLM et Embedding
Faites appel à votre propre intelligence ! Utilisez Go pour effectuer des inférences locales accélérées par le matériel avec llama.cpp, whisper.cpp et stable-diffusion.cpp, directement intégrés à vos applications Go. Kronk fournit une API de haut niveau et un serveur de modèles prêt pour la production.
Phoque tacheté — Phocinae-Largha-150M-v1 : un modèle bilingue de prise de décision de 144,3 M. Petit modèle. Grandes décisions. Petit phoque, grandes décisions.
Outils, workflows ComfyUI et configurations de benchmark issus d’une machine d’inférence locale équipée de 4 RTX 3090
Foire aux questions
Quel est le dépôt #local-inference le plus populaire sur GitHub ?
Le projet #local-inference open source le mieux classé sur GitHub est oobabooga/textgen, avec 47,736 étoiles. Application de bureau open-source pour les LLM locaux. Texte, vision, appel d'outils, API compatible OpenAI/Anthropic. 100% privé.
Quels langages de programmation sont les plus utilisés dans les dépôts #local-inference ?
Parmi les projets #local-inference les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, C++, TypeScript, Swift.
Comment le classement des dépôts #local-inference est-il calculé ?
Nous suivons 19 dépôts open source actifs associés à #local-inference (500+ étoiles), totalisant 116,603 étoiles, avec une moyenne de 6,137 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.