#mixture-of-experts Dépôts
Découvrez 78 dépôts GitHub open source actifs associés à #mixture-of-experts, cumulant 392,641 étoiles au total (soit une moyenne de 5,033 étoiles par projet). Le projet en tête de ce thème est deepseek-ai/DeepSeek-V3, avec 104,417 étoiles.
78 dépôts au total
DeepSpeed est une bibliothèque d'optimisation pour l'apprentissage profond qui rend l'entraînement distribué et l'inférence simples, efficaces et performants.
gpt-oss-120b et gpt-oss-20b sont deux modèles linguistiques à poids ouverts par OpenAI
Un modèle Kimi K3 de 2 780 milliards de paramètres effectuant une inférence sur un seul CPU avec 8,24 Go de RAM. C99 portable : sans BLAS, sans framework, sans GPU.
Kimi K2 est la série de grands modèles linguistiques développés par l'équipe Moonshot AI.
《Comprendre en profondeur l’infrastructure de l’IA : analyse quantitative et conception de systèmes》 (de Li Bojie), un manuscrit de livre open source : à partir des contraintes matérielles et de l’architecture des modèles, il déduit quantitativement la conception des systèmes d’inférence et d’entraînement des LLM. Comprend le texte intégral, le PDF, des outils de calcul associés et des expériences.
Outils d'infrastructure IA testés en production pour le développement efficace d'AGI et l'innovation pilotée par la communauté
DeepSeek-Coder-V2 : Briser la barrière des modèles propriétaires en matière d'intelligence du code
DeepSeek-VL2 : Modèles Vision-Langage Mixture-of-Experts pour une Compréhension Multimodale Avancée
fastllm est une bibliothèque d’inférence de grands modèles de langage haute performance, sans dépendance à un backend, qui vous aide à exécuter efficacement des inférences sur la plupart des appareils.
DeepSeek-V2 : un modèle linguistique Mixture-of-Experts puissant, économique et efficace
Mémoire conditionnelle via recherche évolutive : Un nouvel axe de sparsité pour les grands modèles de langage
Qwen3.8 est une série de grands modèles de langage développée par l’équipe Qwen du groupe Alibaba.
Miles est un framework d'apprentissage par renforcement orienté entreprise pour le post-entraînement de LLM et VLM, dérivé de et co-évoluant avec slime.
Exécutez GLM-5.3 (744B), DeepSeek-V4.1-Flash (748B), MiniMax-M3.1-Flash (428B), GLM-5.3-Flash (321B) et Hy4-Flash (220B) sur vos propres GPU — à partir de 8 Go de VRAM, avec prise en charge de NVIDIA et AMD, un tableau de bord unique et une API compatible avec OpenAI et Anthropic.
Entraînement minimaliste de grands modèles linguistiques avec parallélisme 3D
Construire des grands modèles à zéro : une pratique complète du pré-entraînement à la RLHF
Deep learning décentralisé dans PyTorch. Conçu pour entraîner des modèles sur des milliers de volontaires à travers le monde.
Exécutez les modèles Mixtral-8x7B dans Colab ou sur des ordinateurs de bureau grand public
Monkey (LMM) : La résolution d'image et l'étiquette de texte sont des éléments importants pour les grands modèles multimodaux (CVPR 2024 Highlight)
DeepSeekMoE : Vers une spécialisation ultime des experts dans les modèles de langage Mixture-of-Experts
Réimplémentation du modèle d'action vision-langage (VLA) pi0 de Physical Intelligence
Modèles larges inspirés du cerveau à impulsions (spiking), intégrant une attention hybride efficace, des modules MoE et l'encodage par impulsions dans leur architecture
Inférence locale au comportement comparable à celui d’une API de pointe : Qwen3.8-Flash-Next sur AMD Strix Halo, ainsi que de petits modèles NPU, via les API d’OpenAI et d’Anthropic sur un seul port.
MiMo-V2-Flash : Raisonnement, codage et modèle fondamental agentique efficaces
Inférence sur CPU sans GPU pour les modèles MoE de 30B à 284B (Qwen3.8 176.5B certifié avec cache froide dans Cgroup v2 à 28,26/48,35 Gio, DeepSeek-V4 284B, Nemotron-30B) + RouteCrack 2.0.
Exécutez de grands modèles d’IA sur votre propre PC : Qwen3.8-Flash-Next avec le moteur de Strata, et GLM 5.3 Flash, DeepSeek V4 Flash, LFM2.5, Qwen3.6, Ornith 1.5, Gemma 4, Tiel Coder et MiniCPM-V avec un second moteur conçu pour PolyStrata. Installation en un clic sous Windows et Linux, avec une API OpenAI/Anthropic sur localhost.
Exécutez des modèles dont la taille dépasse la capacité de votre RAM ou VRAM en diffusant les experts MoE depuis un SSD. Basé sur llama.cpp.
Une collection de choses GÉNIALES sur les mixtures d'experts
Réimplémentation PyTorch de "The Sparsely-Gated Mixture-of-Experts Layer" par Noam Shazeer et al. https://arxiv.org/abs/1701.06538
Kimi-VL : Modèle Vision-Langage Mixture-of-Experts pour le Raisonnement Multimodal, la Compréhension du Long Contexte et de Fortes Capacités d'Agent
Foire aux questions
Quel est le dépôt #mixture-of-experts le plus populaire sur GitHub ?
Le projet #mixture-of-experts open source le mieux classé sur GitHub est deepseek-ai/DeepSeek-V3, avec 104,417 étoiles.
Quels langages de programmation sont les plus utilisés dans les dépôts #mixture-of-experts ?
Parmi les projets #mixture-of-experts les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, C++, Jupyter Notebook, C.
Comment le classement des dépôts #mixture-of-experts est-il calculé ?
Nous suivons 78 dépôts open source actifs associés à #mixture-of-experts (500+ étoiles), totalisant 392,641 étoiles, avec une moyenne de 5,033 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.