Git Stars Git Stars

#moe Репозитории

Откройте для себя 34 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #moe, с общим числом 317,125 звёзд (в среднем 9,327 на проект). Лидером этой темы является vllm-project/vllm, набравший 97,302 звёзд.

34
Всего репозиториев
317,125
Всего звезд
9,327
Среднее количество звезд на репозиторий
Языки программирования: Python C++ C Cuda Swift TypeScript HTML Rust

Всего репозиториев: 34

1
vllm-project/vllm

Высокопроизводительный и эффективный по памяти движок для инференса и обслуживания LLM

vllm-project
⭐ 97,302 Python 👤 vllm-project Organization 🕐 Обновлено 2026-11-21 📅 Создано 2023-02-09
2
hiyouga/LlamaFactory

Единая эффективная тонкая настройка 100+ LLM и VLM (ACL 2024)

hiyouga
⭐ 76,171 Python 👤 hiyouga User 🕐 Обновлено 2026-11-21 📅 Создано 2023-05-28
3
sgl-project/sglang

SGLang — это высокопроизводительный фреймворк для обслуживания больших языковых моделей и мультимодальных моделей.

sgl-project
⭐ 38,899 Python 👤 sgl-project Organization 🕐 Обновлено 2026-11-21 📅 Создано 2024-01-08
4
FlashML-org/FreeToken

FreeToken переносит обслуживание моделей масштаба дата-центра на ваш рабочий стол. Запускайте масштабные модели локально, быстро и эффективно.

FlashML-org
⭐ 17,522 Python 👤 FlashML-org User 🕐 Обновлено 2026-11-21 📅 Создано 2026-07-20
5
modelscope/ms-swift

Используйте PEFT или обучение всех параметров для выполнения CPT/SFT/DPO/GRPO на более чем 600 LLM (Qwen3.8, DeepSeek-V4, GLM-5.1, InternLM3, Llama4 и др.) и более чем 300 MLLM (Qwen3-VL, Qwen3-Omni, InternVL3.5, Ovis2.5, GLM5.3, Gemma4, LLaVA, Phi4 и др.) (AAAI 2025).

modelscope
⭐ 16,138 Python 👤 modelscope Organization 🕐 Обновлено 2026-11-21 📅 Создано 2023-08-01
6
NVIDIA/TensorRT-LLM

TensorRT LLM предоставляет пользователям простой в использовании Python API для определения больших языковых моделей (LLM) и поддерживает современные оптимизации для эффективного выполнения вывода на графических процессорах NVIDIA. TensorRT LLM также содержит компоненты для создания сред выполнения Python и C++, которые оркеструют выполнение вывода производительным способом.

NVIDIA
⭐ 15,112 Python 👤 NVIDIA Organization 🕐 Обновлено 2026-11-21 📅 Создано 2023-08-16
7
FareedKhan-dev/kimi-k3-in-c

Модель Kimi K3 с 2,78 триллионами параметров, выполняющая логический вывод на одном процессоре с 8,24 ГБ оперативной памяти. Портативный C99: без BLAS, без фреймворков, без GPU.

FareedKhan-dev
⭐ 12,523 C 👤 FareedKhan-dev User 🕐 Обновлено 2026-11-16 📅 Создано 2026-08-01
8
flashinfer-ai/flashinfer

FlashInfer: Библиотека ядер для обслуживания LLM

flashinfer-ai
⭐ 6,982 Cuda 👤 flashinfer-ai Organization 🕐 Обновлено 2026-11-21 📅 Создано 2023-07-22
9
czy0729/Bangumi

:electron: Неофициальный клиент приложения https://bgm.tv с приоритетом UI для Android и iOS, построенный на React Native. Без рекламы, мотивированный хобби, без цели прибыли, специализированный на ACG, похожий на Douban для отслеживания аниме, сторонний клиент bgm.tv. Переработан для мобильных устройств, включает множество улучшенных функций, трудно реализуемых на веб-версии, и предоставляет значительные опции настройки. На данный момент адаптирован для iOS / Android.

czy0729
⭐ 6,268 TypeScript 👤 czy0729 User 🕐 Обновлено 2026-11-20 📅 Создано 2019-05-08
10
zai-org/GLM-4.5

GLM-4.5: Агентные, Рассуждающие и Кодирующие (ARC) Фундаментальные Модели

zai-org
⭐ 4,426 Python 👤 zai-org Organization 🕐 Обновлено 2026-02-01 📅 Создано 2025-07-20
11
mw00/project-maya

Запускайте GLM-5.3 (744B), DeepSeek-V4.1-Flash (748B), MiniMax-M3.1-Flash (428B), GLM-5.3-Flash (321B) и Hy4-Flash (220B) на собственных GPU — от 8 ГБ видеопамяти, с поддержкой NVIDIA и AMD, единой панелью управления и API, совместимым с OpenAI и Anthropic.

mw00
⭐ 3,140 C++ 👤 mw00 User 🕐 Обновлено 2026-11-21 📅 Создано 2026-10-06
12
PKU-YuanGroup/MoE-LLaVA

【TMM 2025🔥】 Смесь экспертов для больших визуально-языковых моделей

PKU-YuanGroup
⭐ 2,321 Python 👤 PKU-YuanGroup Organization 🕐 Обновлено 2025-07-15 📅 Создано 2023-12-14
13
MoonshotAI/MoBA

MoBA: Смесь блочного внимания для LLM с длинным контекстом

MoonshotAI
⭐ 2,122 Python 👤 MoonshotAI Organization 🕐 Обновлено 2025-04-03 📅 Создано 2025-02-17
14
uccl-project/uccl

UCCL — это эффективная библиотека связи для GPU, охватывающая коллективные операции, P2P (например, передача кеша KV, передача весов RL) и EP (например, управляемый GPU).

uccl-project
⭐ 1,590 C++ 👤 uccl-project Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-01-06
15
wici-ai/inferssd

Запускайте модели, превышающие объём вашей RAM или VRAM, загружая экспертов MoE с SSD в потоковом режиме. Основано на llama.cpp.

wici-ai
⭐ 1,277 C++ 👤 wici-ai Organization 🕐 Обновлено 2026-11-20 📅 Создано 2026-10-22
16
davidmrau/mixture-of-experts

Реализация на PyTorch "The Sparsely-Gated Mixture-of-Experts Layer" от Noam Shazeer и соавт. https://arxiv.org/abs/1701.06538

davidmrau
⭐ 1,215 Python 👤 davidmrau User 🕐 Обновлено 2024-04-19 📅 Создано 2019-07-19
17
Helldez/BigMoeOnEdge

Запускайте MoE-модели, превышающие объём вашей оперативной памяти. MoE передового уровня на телефоне, ноутбуке или edge-устройстве. Без потерь, на стандартном llama.cpp. Адаптивный потоковый оптимизатор. Любое оборудование, любая ОС, любая модель и квантование — через локальный сервер, совместимый с OpenAI.

Helldez
⭐ 1,066 C++ 👤 Helldez User 🕐 Обновлено 2026-11-21 📅 Создано 2026-07-10
18
microsoft/Tutel

Tutel MoE: оптимизированная библиотека Mixture-of-Experts с поддержкой GLM/Kimi/GPT/DeepSeek/Qwen и форматов FP8/NVFP4/MXFP4

microsoft
⭐ 1,027 C 👤 microsoft Organization 🕐 Обновлено 2026-11-06 📅 Создано 2021-08-06
19
wangeai/K3Flight

Запустите Kimi K3 локально на процессоре с использованием около 55 ГБ оперативной памяти во время выполнения. Однофайловый сервер логического вывода для Linux на базе cPilot Runtime.

wangeai
⭐ 1,019 HTML 👤 wangeai Organization 🕐 Обновлено 2026-07-31 📅 Создано 2026-07-30
20
NVIDIA/cudnn-frontend

cuDNN Frontend — это современная open-source точка входа NVIDIA в библиотеку cuDNN и растущую коллекцию высокопроизводительных open-source ядер.

NVIDIA
⭐ 1,008 Cuda 👤 NVIDIA Organization 🕐 Обновлено 2026-11-21 📅 Создано 2021-01-22
21
pjlab-sys4nlp/llama-moe

⛷️ LLaMA-MoE: Создание Mixture-of-Experts из LLaMA с непрерывным предварительным обучением (EMNLP 2024)

pjlab-sys4nlp
⭐ 1,004 Python 👤 pjlab-sys4nlp Organization 🕐 Обновлено 2024-12-06 📅 Создано 2023-07-24
22
whitecircle/halo

Halo — это фреймворк с открытым исходным кодом, разработанный White Circle для обучения больших языковых и мультимодальных моделей

whitecircle
⭐ 868 Python 👤 whitecircle Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-08-26
23
sail-sg/Adan

Adan: Адаптивный алгоритм импульса Нестерова для более быстрой оптимизации глубоких моделей

sail-sg
⭐ 818 Python 👤 sail-sg Organization 🕐 Обновлено 2025-06-08 📅 Создано 2022-09-01
24
ScienceOne-AI/DeepSeek-671B-SFT-Guide

Open-source решение для полнопараметрической тонкой настройки DeepSeek-V3/R1 671B, включающее полный код и скрипты от обучения до инференса, а также некоторый практический опыт и выводы.

ScienceOne-AI
⭐ 806 Python 👤 ScienceOne-AI User 🕐 Обновлено 2025-03-13 📅 Создано 2025-03-07
25
SharpAI/SwiftLM

⚡ Нативный сервер вывода MLX Swift LLM для Apple Silicon. API, совместимый с OpenAI, потоковая передача с SSD для моделей MoE 100B+, сжатие TurboQuant KV-кеша, приложение для MACOS + iOS iPhone.

SharpAI
⭐ 802 Swift 👤 SharpAI Organization 🕐 Обновлено 2026-11-19 📅 Создано 2026-03-21
26
Tencent/YOLO-Master

[CVPR2026]🚀🚀🚀Официальный код для статьи "YOLO-Master: MOE-Accelerated с специализированными трансформерами для улучшенного обнаружения в реальном времени." *(YOLO = You Only Look Once)* 🔥🔥🔥

Tencent
⭐ 790 Python 👤 Tencent Organization 🕐 Обновлено 2026-11-15 📅 Создано 2025-12-26
27
YeonwooSung/llm-architecture-from-scratch

Реализация архитектур LLM с нуля на PyTorch

YeonwooSung
⭐ 751 Python 👤 YeonwooSung User 🕐 Обновлено 2026-11-19 📅 Создано 2026-09-16
28
pegainfer-project/pegainfer

Чистый движок вывода LLM на Rust + CUDA — без PyTorch, совместим с OpenAI, обслуживает от Qwen3 до Kimi-K2

pegainfer-project
⭐ 748 Rust 👤 pegainfer-project Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-02-17
29
prabanta-dev/janas

37 ток/с на Qwen3-Next-80B (48 ГБ) на ноутбуке с 32 ГБ памяти; 24 ток/с без черновой генерации против 2,8 у llama.cpp; скорость чтения — 62 против 16 ток/с. Быстрее llama.cpp на всех 13 моделях, сравнивавшихся в Q4_K_M. Запускайте LLM, превышающие объём вашей RAM, на чистом C — на CPU или GPU.

prabanta-dev
⭐ 738 C 👤 prabanta-dev Organization 🕐 Обновлено 2026-11-20 📅 Создано 2026-09-20
30
carloslfu/slotstream

Запускайте ИИ-модель размером 105 ГБ на Mac, на котором она не помещается целиком. Qwen3.8-Flash-Next в 4-битном формате загружается потоком с SSD на компьютерах Mac с Apple Silicon и 16–64 ГБ памяти. Полностью нативная реализация на Swift, MLX и Metal. Работает офлайн, без Python. CLI, библиотека Swift и API Ollama/OpenAI/Anthropic. Совместима с Claude Code и Codex.

carloslfu
⭐ 674 Swift 👤 carloslfu User 🕐 Обновлено 2026-11-17 📅 Создано 2026-08-28
31
wanshuiyin/ARIS-in-AI-Offer

Двуязычные (китайский + английский) шпаргалки для собеседований по ML / LLM / diffusion / agent в рамках осеннего набора специалистов по ИИ — созданы с помощью ARIS /interview-cheatsheet и преобразованы посредством /render-html в одnofайловый HTML, который можно читать где угодно, — а также генератор академических домашних страниц с проверкой фактов по CV→DBLP и самостоятельно написанные блоги большого объёма 🌱

wanshuiyin
⭐ 661 Python 👤 wanshuiyin User 🕐 Обновлено 2026-11-18 📅 Создано 2026-05-19
32
ymcui/Chinese-Mixtral

Китайские большие языковые модели Mixtral Mixture-of-Experts (Chinese Mixtral MoE LLMs)

ymcui
⭐ 613 Python 👤 ymcui User 🕐 Обновлено 2026-04-19 📅 Создано 2024-01-11
33
kacper-daftcode/vLLM-Moet

Передовые MoE-модели на RTX PRO 6000 / RTX 5090 (sm_120): DeepSeek-V4.1-Flash на 4 RTX PRO 6000, гибридная конфигурация GPU+CPU на 4 RTX 5090 и 2-битные эксперты в vLLM v0.24.0

kacper-daftcode
⭐ 580 Sass 👤 kacper-daftcode User 🕐 Обновлено 2026-11-18 📅 Создано 2026-06-15
34
Indras-Mirror/Xolotl

Xolotl: запускайте DeepSeek-V4.1-Flash со всеми 552B параметров как локального агента для программирования на одном игровом ПК (RTX 4090 + 110 ГБ ОЗУ): около 33 токенов/с в режиме агента, около 41 в быстром режиме, контекст 512K. Также доступны Inkling-2-Mini (Thinking Machines, собственный движок + модуль создания черновиков MTP), GLM-5.3-Flash, Qwen3.8 и LFM3-Omni. Эксперты MoE распределяются по уровням между VRAM, ОЗУ и NVMe (Xolotl Direct). API OpenAI + Anthropic.

Indras-Mirror
⭐ 549 C++ 👤 Indras-Mirror User 🕐 Обновлено 2026-11-21 📅 Создано 2026-10-06

Часто задаваемые вопросы

1

Какой репозиторий по теме #moe наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #moe на GitHub — vllm-project/vllm, набравший 97,302 звёзд. Высокопроизводительный и эффективный по памяти движок для инференса и обслуживания LLM

2

Какие языки программирования чаще всего используются в репозиториях по теме #moe?

Среди наиболее высоко оценённых проектов по теме #moe на GitHub чаще всего используются языки программирования Python, C++, C, Cuda.

3

Как рассчитывается рейтинг репозиториев по теме #moe?

Мы отслеживаем 34 активных репозиториев с открытым исходным кодом, отмеченных тегом #moe (500 и более звёзд), с общим числом 317,125 звёзд и в среднем 9,327 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.