#llama-cpp Dépôts
69 dépôts au total
llama.cpp sur une PS5 jailbreakée : exécutez nativement n’importe quel modèle GGUF sur la console, en commençant par Qwen 3.8
Moteur d’inférence ultra-rapide pour Apple Silicon, optimisé pour Qwen et Nemotron. Compatible avec les API d’OpenAI et d’Anthropic. Créé par l’équipe de nace.ai
Orion-14B est une famille de modèles comprenant un LLM de base de 14 milliards de paramètres, ainsi qu'une série de modèles dérivés : un modèle de chat, un modèle à long contexte, un modèle quantifié, un modèle affiné RAG et un modèle affiné Agent. La série de modèles Orion-14B comprend un LLM de base multilingue de 14 milliards de paramètres et une série de modèles dérivés associés, notamment des modèles de dialogue, des modèles à long contexte, des modèles quantifiés, des modèles affinés RAG, des modèles affinés Agent, etc.
Exécutez n’importe quel agent sur n’importe quel modèle, les modèles étant stockés sous forme d’images OCI
Nœuds ComfyUI pour les modèles vision-langage : Qwen3-VL, Moondream 3, Florence-2, SmolVLM2, InternVL, Gemma 3, MiniCPM-V. Inclut également la détection à vocabulaire ouvert, la segmentation SAM2/SAM3, le raisonnement temporel vidéo, GGUF via llama.cpp, et des API LLM/VLM hébergées.
Un plugin d'assistance au codage intelligent pour Visual Studio Code, développé sur la base de CodeShell
Client de chat IA open source, multi-modèle et à clé personnelle (BYOK), pour iOS, Android et le Web. Un seul client LLM pour OpenAI, Anthropic, Google Gemini, OpenRouter, DeepSeek et dix autres fournisseurs, ainsi que tout endpoint compatible avec OpenAI, Anthropic ou Gemini — Ollama, LM Studio, llama.cpp, vLLM. Fonctionne d’abord en local, peut être auto-hébergé et ne nécessite aucun compte. AGPL-3.0.
sparkrun — lancez, gérez et arrêtez des charges de travail d’inférence de LLM sur les systèmes NVIDIA DGX Spark. Assistance en direct : https://discord.com/invite/GH5kRgv6ZD
Une façon plus simple d’utiliser l’IA sur votre propre ordinateur. Une alternative gratuite et open source à Claude et ChatGPT, qui exécute localement des modèles à poids ouverts comme Gemma et gpt-oss sur Mac, Windows et Linux. Respectueuse de la vie privée et utilisable hors ligne.
GraphRAG-rs est une implémentation Rust haute performance et de pointe de GraphRAG (Génération Augmentée par Récupération Basée sur des Graphes) qui construit des graphes de connaissances à partir de documents et permet des requêtes en langage naturel avec extraction d'entités configurable et intégration locale de LLM
Station de création IA full-stack privilégiant le local : cinq modules — conversation avec l’IA, bandes dessinées générées par IA, création de séries en format BD, espace d’écriture et apprentissage des connaissances — ; inférence locale avec plusieurs moteurs (vLLM / llama.cpp / Transformers), gestion intelligente de la mémoire vidéo, isolation en compartiments et autorétablissement. Réservé à l’apprentissage ; échanges et suggestions bienvenus. (En raison de restrictions liées au protocole, les dernières avancées, à l’exception du système de plugins, ne peuvent pas encore être envoyées dans le dépôt.)
Un moteur d’inférence entièrement écrit en Rust pour les LLM, VLM, VLA, TTS et l’OCR, propulsé par Candle et Rust. Une alternative à llama.cpp, bien plus simple et épurée.
Reconnaissance vocale générative axée sur l'arabe — Audar-ASR-V1 (Flash + Turbo). N° 1 au classement Open Universal Arabic ASR. Fiches de modèle, benchmarks et inférence.