#moe Dépôts
Découvrez 34 dépôts GitHub open source actifs associés à #moe, cumulant 317,125 étoiles au total (soit une moyenne de 9,327 étoiles par projet). Le projet en tête de ce thème est vllm-project/vllm, avec 97,302 étoiles.
34 dépôts au total
Un moteur d'inférence et de service pour LLM à haut débit et efficace en mémoire
SGLang est un framework de service haute performance pour les grands modèles linguistiques et les modèles multimodaux.
FreeToken apporte le déploiement de modèles à l'échelle des centres de données sur votre bureau. Exécutez des modèles massifs localement, rapidement et efficacement.
Utilisez le PEFT ou l’entraînement de tous les paramètres pour appliquer CPT/SFT/DPO/GRPO à plus de 600 LLM (Qwen3.8, DeepSeek-V4, GLM-5.1, InternLM3, Llama4, ...) et plus de 300 MLLM (Qwen3-VL, Qwen3-Omni, InternVL3.5, Ovis2.5, GLM5.3, Gemma4, LLaVA, Phi4, ...) (AAAI 2025).
TensorRT LLM fournit aux utilisateurs une API Python facile à utiliser pour définir des grands modèles linguistiques (LLM) et prend en charge des optimisations de pointe pour effectuer des inférences efficacement sur les GPU NVIDIA. TensorRT LLM contient également des composants pour créer des runtimes Python et C++ qui orchestrent l'exécution de l'inférence de manière performante.
Un modèle Kimi K3 de 2 780 milliards de paramètres effectuant une inférence sur un seul CPU avec 8,24 Go de RAM. C99 portable : sans BLAS, sans framework, sans GPU.
:electron: Un client d'application non officiel https://bgm.tv avec UI first pour Android et iOS, construit avec React Native. Une application sans publicité, motivée par le hobby, sans but lucratif, spécialisée dans l'ACG, similaire à Douban pour le suivi d'animes, client tiers pour bgm.tv. Redesignée pour les appareils mobiles, intégrant de nombreuses fonctionnalités améliorées difficiles à implémenter sur la version web, et offrant des options de personnalisation substantielles. Actuellement adaptée pour iOS / Android.
Exécutez GLM-5.3 (744B), DeepSeek-V4.1-Flash (748B), MiniMax-M3.1-Flash (428B), GLM-5.3-Flash (321B) et Hy4-Flash (220B) sur vos propres GPU — à partir de 8 Go de VRAM, avec prise en charge de NVIDIA et AMD, un tableau de bord unique et une API compatible avec OpenAI et Anthropic.
UCCL est une bibliothèque de communication efficace pour GPU, couvrant les collectives, le P2P (par exemple, transfert de cache KV, transfert de poids RL) et l'EP (par exemple, piloté par GPU).
Exécutez des modèles dont la taille dépasse la capacité de votre RAM ou VRAM en diffusant les experts MoE depuis un SSD. Basé sur llama.cpp.
Réimplémentation PyTorch de "The Sparsely-Gated Mixture-of-Experts Layer" par Noam Shazeer et al. https://arxiv.org/abs/1701.06538
Exécutez des modèles MoE plus volumineux que votre RAM. Des MoE de pointe sur un téléphone, un ordinateur portable ou un appareil edge. Sans perte, avec llama.cpp standard. Un optimiseur adaptatif en streaming. Tout matériel, tout système d’exploitation, tout modèle et toute quantification, via un serveur local compatible avec OpenAI.
Tutel MoE : bibliothèque optimisée de mélange d’experts, prenant en charge GLM/Kimi/GPT/DeepSeek/Qwen avec FP8/NVFP4/MXFP4
Exécutez Kimi K3 localement sur CPU avec environ 55 Go de RAM d'exécution mesurée. Un serveur d'inférence Linux à fichier unique propulsé par cPilot Runtime.
cuDNN Frontend est le point d'entrée moderne et open source de NVIDIA vers la bibliothèque cuDNN et une collection croissante de noyaux open source hautes performances.
⛷️ LLaMA-MoE : Construction de Mixture-of-Experts à partir de LLaMA avec pré-entraînement continu (EMNLP 2024)
Halo est un framework open source développé par White Circle pour entraîner des modèles de langage de grande taille et des modèles multimodaux
Adan : Algorithme adaptatif de momentum de Nesterov pour l'optimisation plus rapide des modèles profonds
Une solution open-source pour le réglage fin de tous les paramètres de DeepSeek-V3/R1 671B, comprenant le code complet et les scripts de l'entraînement à l'inférence, ainsi que quelques expériences pratiques et conclusions.
⚡ Serveur d'inférence LLM MLX Swift natif pour Apple Silicon. API compatible OpenAI, streaming SSD pour modèles MoE 100B+, compression TurboQuant KV cache, app MACOS + iOS iPhone.
[CVPR2026]🚀🚀🚀Code officiel pour l'article "YOLO-Master : MOE-Accelerated avec des Transformers spécialisés pour une détection en temps réel améliorée." *(YOLO = You Only Look Once)* 🔥🔥🔥
Implémenter des architectures de LLM à partir de zéro avec PyTorch
Moteur d'inférence LLM pur Rust + CUDA — pas de PyTorch, compatible OpenAI, sert de Qwen3 à Kimi-K2
37 tok/s avec Qwen3-Next-80B (48 Go) sur un ordinateur portable de 32 Go ; 24 sans spéculation, contre 2,8 avec llama.cpp ; lecture à 62 contre 16 tok/s. Plus rapide que llama.cpp sur les 13 modèles comparés en Q4_K_M. Des LLM plus grands que votre RAM, en C pur, sur CPU ou GPU.
Exécutez un modèle d’IA de 105 Go sur un Mac qui ne peut pas le stocker. Qwen3.8-Flash-Next en 4 bits, chargé en continu depuis un SSD sur les Mac Apple Silicon dotés de 16 à 64 Go de mémoire. Entièrement natif en Swift, MLX et Metal. Hors ligne, sans Python. CLI, bibliothèque Swift et API Ollama/OpenAI/Anthropic. Compatible avec Claude Code et Codex.
Fiches de préparation bilingues (chinois + anglais) aux entretiens de ML / LLM / diffusion / agents pour le recrutement d’automne en IA — générées par ARIS /interview-cheatsheet, puis rendues par /render-html en fichiers HTML autonomes lisibles partout — ainsi qu’un générateur de pages d’accueil académiques vérifié par recoupement CV→DBLP et des articles longs rédigés par l’auteur 🌱
Grand modèle linguistique Mixtral Mixture-of-Experts chinois (Chinese Mixtral MoE LLMs)
Modèles MoE de pointe sur RTX PRO 6000 / RTX 5090 (sm_120) : DeepSeek-V4.1-Flash sur 4 RTX PRO 6000, en hybride GPU+CPU sur 4 RTX 5090, et experts à 2 bits sur vLLM v0.24.0
Xolotl : exécutez DeepSeek-V4.1-Flash, avec l’intégralité de ses 552B paramètres, comme agent de programmation local sur un seul PC gaming (RTX 4090 + 110 Go de RAM) : ~33 tok/s en mode agent, ~41 en mode rapide, avec un contexte de 512K. Également disponible : Inkling-2-Mini (Thinking Machines, moteur propriétaire + générateur d’ébauches MTP), GLM-5.3-Flash, Qwen3.8 et LFM3-Omni. Experts MoE répartis par niveaux entre la VRAM, la RAM et le NVMe (Xolotl Direct). API OpenAI + Anthropic.
Foire aux questions
Quel est le dépôt #moe le plus populaire sur GitHub ?
Le projet #moe open source le mieux classé sur GitHub est vllm-project/vllm, avec 97,302 étoiles. Un moteur d'inférence et de service pour LLM à haut débit et efficace en mémoire
Quels langages de programmation sont les plus utilisés dans les dépôts #moe ?
Parmi les projets #moe les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, C++, C, Cuda.
Comment le classement des dépôts #moe est-il calculé ?
Nous suivons 34 dépôts open source actifs associés à #moe (500+ étoiles), totalisant 317,125 étoiles, avec une moyenne de 9,327 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.