#mixture-of-experts Репозитории
Откройте для себя 78 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #mixture-of-experts, с общим числом 392,641 звёзд (в среднем 5,033 на проект). Лидером этой темы является deepseek-ai/DeepSeek-V3, набравший 104,417 звёзд.
Всего репозиториев: 78
DeepSpeed — это библиотека оптимизации для глубокого обучения, которая делает распределённое обучение и вывод простыми, эффективными и результативными.
Модель Kimi K3 с 2,78 триллионами параметров, выполняющая логический вывод на одном процессоре с 8,24 ГБ оперативной памяти. Портативный C99: без BLAS, без фреймворков, без GPU.
Kimi K2 — это серия больших языковых моделей, разработанная командой Moonshot AI.
《Глубокое понимание AI-инфраструктуры: количественный анализ и проектирование систем》 (автор — Ли Боцзе), рукопись книги с открытым исходным кодом: исходя из аппаратных ограничений и архитектур моделей, количественно выводит принципы проектирования систем инференса и обучения LLM. Включает полный текст книги, PDF, сопутствующие вычислительные инструменты и эксперименты.
Протестированные в производстве инструменты инфраструктуры ИИ для эффективной разработки AGI и управляемых сообществом инноваций
DeepSeek-Coder-V2: Преодоление барьера проприетарных моделей в области анализа кода
DeepSeek-VL2: Модели «смесь экспертов» (Mixture-of-Experts) для обработки изображений и текста для углубленного мультимодального понимания
fastllm — это высокопроизводительная библиотека для инференса больших языковых моделей, не зависящая от бэкенда. Она помогает эффективно запускать инференс на большинстве устройств.
DeepSeek-V2: Мощная, экономичная и эффективная языковая модель Mixture-of-Experts
Условная память через масштабируемый поиск: Новая ось разреженности для больших языковых моделей
Qwen3.8 — это серия больших языковых моделей, разработанная командой Qwen компании Alibaba Group.
Miles – это корпоративно ориентированная система обучения с подкреплением для пост‑тренировки LLM и VLM, форк, созданный и совместно развиваемый со slime.
Запускайте GLM-5.3 (744B), DeepSeek-V4.1-Flash (748B), MiniMax-M3.1-Flash (428B), GLM-5.3-Flash (321B) и Hy4-Flash (220B) на собственных GPU — от 8 ГБ видеопамяти, с поддержкой NVIDIA и AMD, единой панелью управления и API, совместимым с OpenAI и Anthropic.
Децентрализованное глубокое обучение в PyTorch. Создано для обучения моделей на тысячах волонтеров по всему миру.
Запускайте модели Mixtral-8x7B в Colab или на потребительских настольных компьютерах
Monkey (LMM): Разрешение изображения и текстовая метка — важные аспекты для больших мультимодальных моделей (CVPR 2024 Highlight)
DeepSeekMoE: К конечной специализации экспертов в языковых моделях Mixture-of-Experts
Семейство больших языковых моделей Mixture-of-Experts (MoE) с открытым исходным кодом
Переimplementación del modelo pi0 de visión-lenguaje-acción (VLA) de Physical Intelligence
Крупные модели, вдохновленные спайковой активностью мозга, интегрирующие гибридное эффективное внимание, модули MoE и спайковое кодирование в свою архитектуру
Локальный инференс с поведением, как у передового API: Qwen3.8-Flash-Next на AMD Strix Halo и небольшие модели для NPU — через API OpenAI и Anthropic на одном порту.
MiMo-V2-Flash: Эффективное рассуждение, кодирование и агентная базовая модель
Инференс на CPU без GPU для MoE-моделей размером 30B–284B (Qwen3.8 176.5B сертифицирован в режиме холодного кэша в Cgroup v2 с объёмом 28,26/48,35 ГиБ, DeepSeek-V4 284B, Nemotron-30B) + RouteCrack 2.0.
Запускайте большие ИИ-модели на собственном ПК: Qwen3.8-Flash-Next на движке Strata, а GLM 5.3 Flash, DeepSeek V4 Flash, LFM2.5, Qwen3.6, Ornith 1.5, Gemma 4, Tiel Coder и MiniCPM-V — на втором движке, созданном для PolyStrata. Установка в один клик для Windows и Linux, API OpenAI/Anthropic на localhost.
Запускайте модели, превышающие объём вашей RAM или VRAM, загружая экспертов MoE с SSD в потоковом режиме. Основано на llama.cpp.
Реализация на PyTorch "The Sparsely-Gated Mixture-of-Experts Layer" от Noam Shazeer и соавт. https://arxiv.org/abs/1701.06538
Kimi-VL: Модель Vision-Language Mixture-of-Experts для мультимодального рассуждения, понимания длинного контекста и мощных возможностей агента
Часто задаваемые вопросы
Какой репозиторий по теме #mixture-of-experts наиболее популярен на GitHub?
Самый высоко оценённый проект с открытым исходным кодом по теме #mixture-of-experts на GitHub — deepseek-ai/DeepSeek-V3, набравший 104,417 звёзд.
Какие языки программирования чаще всего используются в репозиториях по теме #mixture-of-experts?
Среди наиболее высоко оценённых проектов по теме #mixture-of-experts на GitHub чаще всего используются языки программирования Python, C++, Jupyter Notebook, C.
Как рассчитывается рейтинг репозиториев по теме #mixture-of-experts?
Мы отслеживаем 78 активных репозиториев с открытым исходным кодом, отмеченных тегом #mixture-of-experts (500 и более звёзд), с общим числом 392,641 звёзд и в среднем 5,033 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.