Git Stars Git Stars

#mixture-of-experts 仓库

探索 78 个标记为 #mixture-of-experts 的活跃开源 GitHub 仓库,它们累计获得 392,641 个 Star(平均每个项目 5,033 个)。该主题的领先项目是 deepseek-ai/DeepSeek-V3,拥有 104,417 个 Star。

78
仓库总数
392,641
总星标数
5,033
平均每个仓库星标数
⭐ 104,417 Python 👤 deepseek-ai Organization 🕐 已更新 2025-08-28 📅 创建时间 2024-12-26
2
xai-org/grok-1

Grok公开发布

xai-org
⭐ 50,567 Python 👤 xai-org Organization 🕐 已更新 2024-08-30 📅 创建时间 2024-03-17
3
deepspeedai/DeepSpeed

DeepSpeed 是一个深度学习优化库,使分布式训练和推理变得简单、高效且有效。

deepspeedai
⭐ 43,348 Python 👤 deepspeedai Organization 🕐 已更新 2026-11-21 📅 创建时间 2020-01-23
4
openai/gpt-oss

gpt-oss-120b和gpt-oss-20b是OpenAI的两个开放权重语言模型

openai
⭐ 20,557 Python 👤 openai Organization 🕐 已更新 2026-10-29 📅 创建时间 2025-06-23
5
FareedKhan-dev/kimi-k3-in-c

一个拥有 2.78 万亿参数的 Kimi K3 模型,在单核 CPU 和 8.24 GB 内存下运行推理。可移植 C99 代码:无 BLAS,无框架,无 GPU。

FareedKhan-dev
⭐ 12,523 C 👤 FareedKhan-dev User 🕐 已更新 2026-11-16 📅 创建时间 2026-08-01
6
MoonshotAI/Kimi-K2

Kimi K2 是由 Moonshot AI 团队开发的系列大语言模型。

MoonshotAI
⭐ 11,121 👤 MoonshotAI Organization 🕐 已更新 2026-01-21 📅 创建时间 2025-07-03
7
deepseek-ai/DeepEP

DeepEP:一个高效的专家并行通信库

deepseek-ai
⭐ 10,462 Cuda 👤 deepseek-ai Organization 🕐 已更新 2026-11-20 📅 创建时间 2025-02-17
8
bojieli/ai-infra-book

《深入理解 AI Infra:量化分析与系统设计》(李博杰 著)开源书稿:从硬件约束和模型架构出发,量化推导 LLM 推理与训练系统设计。含全书正文、PDF、配套计算工具与实验

bojieli
⭐ 8,179 Python 👤 bojieli User 🕐 已更新 2026-10-01 📅 创建时间 2026-08-22
9
deepseek-ai/open-infra-index

用于高效AGI开发和社区驱动创新的生产测试AI基础设施工具

deepseek-ai
⭐ 8,007 👤 deepseek-ai Organization 🕐 已更新 2025-05-15 📅 创建时间 2025-02-21
10
deepseek-ai/DeepSeek-Coder-V2

DeepSeek-Coder-V2:打破代码智能领域闭源模型的壁垒

deepseek-ai
⭐ 7,030 👤 deepseek-ai Organization 🕐 已更新 2025-11-11 📅 创建时间 2024-06-14
11
ByteDance-Seed/Bagel

开源统一多模态模型

ByteDance-Seed
⭐ 6,223 Python 👤 ByteDance-Seed Organization 🕐 已更新 2026-05-04 📅 创建时间 2025-04-17
12
deepseek-ai/DeepSeek-VL2

DeepSeek-VL2:用于高级多模态理解的专家混合视觉-语言模型

deepseek-ai
⭐ 5,297 Python 👤 deepseek-ai Organization 🕐 已更新 2025-02-26 📅 创建时间 2024-12-13
13
ztxz16/fastllm

fastllm 是一个不依赖后端的高性能大模型推理库,帮助您在大多数设备上高效运行大模型推理!

ztxz16
⭐ 5,133 C++ 👤 ztxz16 User 🕐 已更新 2026-11-21 📅 创建时间 2023-05-13
14
deepseek-ai/DeepSeek-V2

DeepSeek-V2:一个强大、经济且高效的专家混合语言模型

deepseek-ai
⭐ 4,988 👤 deepseek-ai Organization 🕐 已更新 2024-09-25 📅 创建时间 2024-04-22
15
deepseek-ai/Engram

通过可扩展检索的条件记忆:大型语言模型稀疏性的新轴向

deepseek-ai
⭐ 4,835 Python 👤 deepseek-ai Organization 🕐 已更新 2026-01-14 📅 创建时间 2026-01-12
16
QwenLM/Qwen3.8

Qwen3.8 是由阿里巴巴集团通义千问团队开发的大语言模型系列。

QwenLM
⭐ 4,459 👤 QwenLM Organization 🕐 已更新 2026-08-17 📅 创建时间 2025-09-11
17
algorithmicsuperintelligence/optillm

优化 LLM 的推理代理

algorithmicsuperintelligence
⭐ 4,343 Python 👤 algorithmicsuperintelligence Organization 🕐 已更新 2026-11-16 📅 创建时间 2024-08-22
18
ML-GSAI/LLaDA

"Large Language Diffusion Models" 的官方 PyTorch 实现

ML-GSAI
⭐ 4,020 Python 👤 ML-GSAI Organization 🕐 已更新 2026-07-15 📅 创建时间 2025-02-13
19
radixark/miles

Miles 是一个面向企业的强化学习框架,用于 LLM 和 VLM 的后期训练,派生自并与 slime 共进化。

radixark
⭐ 3,386 Python 👤 radixark Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-10-09
20
mw00/project-maya

在您自己的 GPU 上运行 GLM-5.3(744B)、DeepSeek-V4.1-Flash(748B)、MiniMax-M3.1-Flash(428B)、GLM-5.3-Flash(321B)和 Hy4-Flash(220B)——最低仅需 8 GB 显存,支持 NVIDIA 和 AMD,统一仪表板,并提供兼容 OpenAI 和 Anthropic 的 API。

mw00
⭐ 3,140 C++ 👤 mw00 User 🕐 已更新 2026-11-21 📅 创建时间 2026-10-06
21
huggingface/nanotron

极简主义大语言模型3D并行训练

huggingface
⭐ 2,869 Python 👤 huggingface Organization 🕐 已更新 2026-10-08 📅 创建时间 2023-09-11
22
qibin0506/Cortex

从零构建大模型:从预训练到RLHF的完整实践

qibin0506
⭐ 2,705 Python 👤 qibin0506 User 🕐 已更新 2026-08-21 📅 创建时间 2025-06-24
23
learning-at-home/hivemind

PyTorch 中的去中心化深度学习。旨在训练分布在全球数千名志愿者上的模型。

learning-at-home
⭐ 2,554 Python 👤 learning-at-home Organization 🕐 已更新 2026-01-11 📅 创建时间 2020-02-27
24
dvmazur/mixtral-offloading

在 Colab 或消费级台式机上运行 Mixtral-8x7B 模型

dvmazur
⭐ 2,327 Python 👤 dvmazur User 🕐 已更新 2024-04-08 📅 创建时间 2023-12-15
25
MoonshotAI/Kimi-K2.5

开放视觉代理智能

MoonshotAI
⭐ 2,321 👤 MoonshotAI Organization 🕐 已更新 2026-08-06 📅 创建时间 2026-01-30
26
PKU-YuanGroup/MoE-LLaVA

【TMM 2025🔥】 大型视觉语言模型的专家混合

PKU-YuanGroup
⭐ 2,321 Python 👤 PKU-YuanGroup Organization 🕐 已更新 2025-07-15 📅 创建时间 2023-12-14
27
Yuliang-Liu/Monkey

Monkey (LMM): 图像分辨率和文本标签对大型多模态模型至关重要 (CVPR 2024 Highlight)

Yuliang-Liu
⭐ 1,954 Python 👤 Yuliang-Liu User 🕐 已更新 2026-09-25 📅 创建时间 2023-11-09
28
deepseek-ai/DeepSeek-MoE

DeepSeekMoE:迈向混合专家语言模型的终极专家专业化

deepseek-ai
⭐ 1,862 Python 👤 deepseek-ai Organization 🕐 已更新 2024-01-16 📅 创建时间 2024-01-02
29
laekov/fastmoe

PyTorch 的快速 MoE 实现

laekov
⭐ 1,853 Python 👤 laekov User 🕐 已更新 2025-02-10 📅 创建时间 2021-01-25
30
allenai/Olmo-core

OLMo生态系统的PyTorch构建模块

allenai
⭐ 1,810 Python 👤 allenai Organization 🕐 已更新 2026-11-21 📅 创建时间 2024-03-23
31
XueFuzhao/OpenMoE

一类开源的专家混合(MoE)大型语言模型

XueFuzhao
⭐ 1,648 Python 👤 XueFuzhao User 🕐 已更新 2024-03-08 📅 创建时间 2023-08-08
⭐ 1,599 Python 👤 databricks Organization 🕐 已更新 2026-03-25 📅 创建时间 2023-01-26
33
MoonshotAI/Moonlight

Muon 可扩展用于 LLM 训练

MoonshotAI
⭐ 1,523 👤 MoonshotAI Organization 🕐 已更新 2025-08-03 📅 创建时间 2025-02-22
34
allenzren/open-pi-zero

Physical Intelligence 中的 pi0 视觉-语言-动作 (VLA) 模型重新实现

allenzren
⭐ 1,470 Python 👤 allenzren User 🕐 已更新 2025-01-31 📅 创建时间 2024-12-03
35
BICLab/SpikingBrain-7B

受脉冲神经元启发的巨型模型,将混合高效注意力、MoE 模块和脉冲编码集成到其架构中

BICLab
⭐ 1,432 Python 👤 BICLab User 🕐 已更新 2026-05-14 📅 创建时间 2025-09-03
36
peonist-ai/halogen-flash-server

本地推理,体验媲美前沿 API:在 AMD Strix Halo 上运行 Qwen3.8-Flash-Next 和小型 NPU 模型,通过同一端口提供 OpenAI 和 Anthropic API。

peonist-ai
⭐ 1,412 Shell 👤 peonist-ai Organization 🕐 已更新 2026-11-18 📅 创建时间 2026-08-26
37
XiaomiMiMo/MiMo-V2-Flash

MiMo-V2-Flash:高效的推理、编码和代理基础模型

XiaomiMiMo
⭐ 1,399 👤 XiaomiMiMo Organization 🕐 已更新 2026-10-29 📅 创建时间 2025-12-15
38
synchopate/llama-modchip

零 GPU、纯 CPU 推理,支持 30B–284B MoE 模型(Qwen3.8 176.5B 已在 28.26/48.35 GiB 的 Cgroup v2 冷缓存环境中通过认证、DeepSeek-V4 284B、Nemotron-30B)+ RouteCrack 2.0。

synchopate
⭐ 1,398 Python 👤 synchopate User 🕐 已更新 2026-11-21 📅 创建时间 2026-10-29
39
deepseek-ai/EPLB

专家并行负载均衡器

deepseek-ai
⭐ 1,384 Python 👤 deepseek-ai Organization 🕐 已更新 2025-03-24 📅 创建时间 2025-02-26
41
simplexai-labs/PolyStrata

在自己的 PC 上运行大型 AI 模型:使用 Strata 引擎运行 Qwen3.8-Flash-Next,使用专为 PolyStrata 打造的第二款引擎运行 GLM 5.3 Flash、DeepSeek V4 Flash、LFM2.5、Qwen3.6、Ornith 1.5、Gemma 4、Tiel Coder 和 MiniCPM-V。支持 Windows 和 Linux 一键安装,并在 localhost 上提供 OpenAI/Anthropic API。

simplexai-labs
⭐ 1,324 C++ 👤 simplexai-labs Organization 🕐 已更新 2026-11-18 📅 创建时间 2026-10-06
42
wici-ai/inferssd

通过从 SSD 流式加载 MoE 专家,运行所需内存超过 RAM 或 VRAM 容量的模型。基于 llama.cpp 构建。

wici-ai
⭐ 1,277 C++ 👤 wici-ai Organization 🕐 已更新 2026-11-20 📅 创建时间 2026-10-22
43
XueFuzhao/awesome-mixture-of-experts

关于混合专家模型(mixture-of-experts)的精彩内容合集

XueFuzhao
⭐ 1,247 👤 XueFuzhao User 🕐 已更新 2024-12-08 📅 创建时间 2022-03-30
44
davidmrau/mixture-of-experts

PyTorch 重新实现 "The Sparsely-Gated Mixture-of-Experts Layer" by Noam Shazeer et al. https://arxiv.org/abs/1701.06538

davidmrau
⭐ 1,215 Python 👤 davidmrau User 🕐 已更新 2024-04-19 📅 创建时间 2019-07-19
45
MoonshotAI/Kimi-VL

Kimi-VL:用于多模态推理、长上下文理解和强大智能体功能的专家混合视觉语言模型

MoonshotAI
⭐ 1,203 👤 MoonshotAI Organization 🕐 已更新 2025-07-15 📅 创建时间 2025-04-09
46
deepseek-ai/profile-data

分析 V3/R1 中的计算-通信重叠。

deepseek-ai
⭐ 1,159 👤 deepseek-ai Organization 🕐 已更新 2025-03-21 📅 创建时间 2025-02-26
48
HITsz-TMG/Uni-MoE

Uni-MoE:荔枝的大型多模态模型系列。

HITsz-TMG
⭐ 1,120 Python 👤 HITsz-TMG Organization 🕐 已更新 2026-08-06 📅 创建时间 2024-03-04
49
rhymes-ai/Aria

Aria 的代码库 - 一个开放的多模态原生 MoE

rhymes-ai
⭐ 1,089 Jupyter Notebook 👤 rhymes-ai Organization 🕐 已更新 2025-01-22 📅 创建时间 2024-09-29
50
allenai/OLMoE

OLMoE: 开放式专家混合语言模型

allenai
⭐ 1,087 Jupyter Notebook 👤 allenai Organization 🕐 已更新 2025-09-23 📅 创建时间 2024-06-22

常见问题解答

1

GitHub 上最受欢迎的 #mixture-of-experts 仓库是什么?

GitHub 上排名第一的开源 #mixture-of-experts 项目是 deepseek-ai/DeepSeek-V3,拥有 104,417 个 Star。

2

#mixture-of-experts 仓库中最常使用的编程语言有哪些?

在 GitHub 上排名靠前的 #mixture-of-experts 项目中,最常见的编程语言是 Python, C++, Jupyter Notebook, C。

3

#mixture-of-experts 仓库的排名是如何计算的?

我们跟踪了 78 个标记为 #mixture-of-experts 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 392,641 个 Star,平均每个仓库拥有 5,033 个 Star。排名每日根据 GitHub API 更新。