#inference-server Dépôts
Découvrez 13 dépôts GitHub open source actifs associés à #inference-server, cumulant 53,014 étoiles au total (soit une moyenne de 4,078 étoiles par projet). Le projet en tête de ce thème est jundot/omlx, avec 23,831 étoiles.
13 dépôts au total
Serveur d'inférence LLM avec batching continu et mise en cache SSD pour Apple Silicon — géré depuis la barre de menu macOS
⚡ Moteur d'inférence WebGPU en Rust pur — Compatible avec l'API OpenAI, natif GGUF, fonctionne sur n'importe quel GPU. Pas de Python. Pas de llama.cpp. Binaire unique.
Rapid-MLX est un serveur d’inférence LLM open source (Apache 2.0) pour Apple Silicon, compatible avec OpenAI et Anthropic, basé sur MLX et axé sur des appels d’outils fiables pour les agents de programmation. Jusqu’à 4 fois plus rapide que MLX (mlx-lm) d’Apple avec les mêmes poids.
Serveur d'inférence open source et cluster de production pour tous les modèles dont votre agent a besoin.
RamaLama est un outil de développement open-source qui simplifie la mise à disposition locale de modèles d'IA provenant de n'importe quelle source et facilite leur utilisation pour l'inférence en production, le tout grâce au langage familier des conteneurs.
Transformez n'importe quel ordinateur ou appareil edge en un centre de commande pour vos projets de vision par ordinateur.
Le moyen le plus simple et le plus rapide d'exécuter des LLM personnalisés et affinés localement ou en périphérie
Serveur d'inférence LLM haute performance compatible OpenAI et Anthropic pour Apple Silicon. MLX natif, traitement par lots continu, modèles multimodaux, appels d'outils MCP et prise en charge de Claude Code.
Serveur API compatible avec Jev pour les modèles de décision ouverts. Ollama pour les modèles de décision : téléchargez et exécutez localement 29 familles de modèles (Laya, pplx-decider, Clef, Winnow, coba...), ou hébergez-les vous-même derrière /v1/systemone. Le SDK TypeSafe fonctionne sans modification : définissez son URL de base et choisissez un modèle ouvert. CLI, application de bureau, Docker, serveur MCP et benchmark public.
Un framework open-source de vision par ordinateur pour créer et déployer des applications en quelques minutes
Foire aux questions
Quel est le dépôt #inference-server le plus populaire sur GitHub ?
Le projet #inference-server open source le mieux classé sur GitHub est jundot/omlx, avec 23,831 étoiles. Serveur d'inférence LLM avec batching continu et mise en cache SSD pour Apple Silicon — géré depuis la barre de menu macOS
Quels langages de programmation sont les plus utilisés dans les dépôts #inference-server ?
Parmi les projets #inference-server les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, Rust, C++.
Comment le classement des dépôts #inference-server est-il calculé ?
Nous suivons 13 dépôts open source actifs associés à #inference-server (500+ étoiles), totalisant 53,014 étoiles, avec une moyenne de 4,078 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.