Git Stars Git Stars

#moe 仓库

探索 34 个标记为 #moe 的活跃开源 GitHub 仓库,它们累计获得 317,125 个 Star(平均每个项目 9,327 个)。该主题的领先项目是 vllm-project/vllm,拥有 97,302 个 Star。

34
仓库总数
317,125
总星标数
9,327
平均每个仓库星标数
1
vllm-project/vllm

用于LLM的高吞吐量和内存高效的推理与服务引擎

vllm-project
⭐ 97,302 Python 👤 vllm-project Organization 🕐 已更新 2026-11-21 📅 创建时间 2023-02-09
2
hiyouga/LlamaFactory

100+ LLM与VLM的统一高效微调 (ACL 2024)

hiyouga
⭐ 76,171 Python 👤 hiyouga User 🕐 已更新 2026-11-21 📅 创建时间 2023-05-28
3
sgl-project/sglang

SGLang 是一个用于大型语言模型和多模态模型的高性能服务框架。

sgl-project
⭐ 38,899 Python 👤 sgl-project Organization 🕐 已更新 2026-11-21 📅 创建时间 2024-01-08
4
FlashML-org/FreeToken

FreeToken 将数据中心级别的模型服务带到您的桌面。在本地快速、高效地运行超大模型。

FlashML-org
⭐ 17,522 Python 👤 FlashML-org User 🕐 已更新 2026-11-21 📅 创建时间 2026-07-20
5
modelscope/ms-swift

使用 PEFT 或全参数训练,对 600 多个 LLM(Qwen3.8、DeepSeek-V4、GLM-5.1、InternLM3、Llama4 等)和 300 多个 MLLM(Qwen3-VL、Qwen3-Omni、InternVL3.5、Ovis2.5、GLM5.3、Gemma4、LLaVA、Phi4 等)进行 CPT/SFT/DPO/GRPO(AAAI 2025)。

modelscope
⭐ 16,138 Python 👤 modelscope Organization 🕐 已更新 2026-11-21 📅 创建时间 2023-08-01
6
NVIDIA/TensorRT-LLM

TensorRT LLM 为用户提供了一个易于使用的 Python API 来定义大型语言模型(LLM),并支持最先进的优化,以便在 NVIDIA GPU 上高效执行推理。TensorRT LLM 还包含用于创建 Python 和 C++ 运行时的组件,这些运行时以高性能的方式协调推理执行。

NVIDIA
⭐ 15,112 Python 👤 NVIDIA Organization 🕐 已更新 2026-11-21 📅 创建时间 2023-08-16
7
FareedKhan-dev/kimi-k3-in-c

一个拥有 2.78 万亿参数的 Kimi K3 模型,在单核 CPU 和 8.24 GB 内存下运行推理。可移植 C99 代码:无 BLAS,无框架,无 GPU。

FareedKhan-dev
⭐ 12,523 C 👤 FareedKhan-dev User 🕐 已更新 2026-11-16 📅 创建时间 2026-08-01
8
flashinfer-ai/flashinfer

FlashInfer: LLM推理服务内核库

flashinfer-ai
⭐ 6,982 Cuda 👤 flashinfer-ai Organization 🕐 已更新 2026-11-21 📅 创建时间 2023-07-22
9
czy0729/Bangumi

:electron: An unofficial https://bgm.tv ui first app client for Android and iOS, built with React Native. 一个无广告、以爱好为驱动、不以盈利为目的、专门做 ACG 的类似豆瓣的追番记录,bgm.tv 第三方客户端。为移动端重新设计,内置大量加强的网页端难以实现的功能,且提供了相当的自定义选项。 目前已适配 iOS / Android。

czy0729
⭐ 6,268 TypeScript 👤 czy0729 User 🕐 已更新 2026-11-20 📅 创建时间 2019-05-08
10
zai-org/GLM-4.5

GLM-4.5:Agentic、Reasoning 和 Coding (ARC) 基础模型

zai-org
⭐ 4,426 Python 👤 zai-org Organization 🕐 已更新 2026-02-01 📅 创建时间 2025-07-20
11
mw00/project-maya

在您自己的 GPU 上运行 GLM-5.3(744B)、DeepSeek-V4.1-Flash(748B)、MiniMax-M3.1-Flash(428B)、GLM-5.3-Flash(321B)和 Hy4-Flash(220B)——最低仅需 8 GB 显存,支持 NVIDIA 和 AMD,统一仪表板,并提供兼容 OpenAI 和 Anthropic 的 API。

mw00
⭐ 3,140 C++ 👤 mw00 User 🕐 已更新 2026-11-21 📅 创建时间 2026-10-06
12
PKU-YuanGroup/MoE-LLaVA

【TMM 2025🔥】 大型视觉语言模型的专家混合

PKU-YuanGroup
⭐ 2,321 Python 👤 PKU-YuanGroup Organization 🕐 已更新 2025-07-15 📅 创建时间 2023-12-14
13
MoonshotAI/MoBA

MoBA: 适用于长上下文LLM的块注意力混合

MoonshotAI
⭐ 2,122 Python 👤 MoonshotAI Organization 🕐 已更新 2025-04-03 📅 创建时间 2025-02-17
14
uccl-project/uccl

UCCL是一个高效的GPU通信库,涵盖集合通信、P2P(例如,KV缓存传输、RL权重传输)和EP(例如,GPU驱动)

uccl-project
⭐ 1,590 C++ 👤 uccl-project Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-01-06
15
wici-ai/inferssd

通过从 SSD 流式加载 MoE 专家,运行所需内存超过 RAM 或 VRAM 容量的模型。基于 llama.cpp 构建。

wici-ai
⭐ 1,277 C++ 👤 wici-ai Organization 🕐 已更新 2026-11-20 📅 创建时间 2026-10-22
16
davidmrau/mixture-of-experts

PyTorch 重新实现 "The Sparsely-Gated Mixture-of-Experts Layer" by Noam Shazeer et al. https://arxiv.org/abs/1701.06538

davidmrau
⭐ 1,215 Python 👤 davidmrau User 🕐 已更新 2024-04-19 📅 创建时间 2019-07-19
17
Helldez/BigMoeOnEdge

运行比内存容量更大的 MoE 模型。在手机、笔记本电脑或边缘设备上运行前沿级 MoE。无损,基于原版 llama.cpp。自适应流式优化器。支持任何硬件、任何操作系统、任何模型、任何量化方式,并通过本地兼容 OpenAI 的服务器提供服务。

Helldez
⭐ 1,066 C++ 👤 Helldez User 🕐 已更新 2026-11-21 📅 创建时间 2026-07-10
18
microsoft/Tutel

Tutel MoE:优化的混合专家库,支持使用 FP8/NVFP4/MXFP4 的 GLM/Kimi/GPT/DeepSeek/Qwen

microsoft
⭐ 1,027 C 👤 microsoft Organization 🕐 已更新 2026-11-06 📅 创建时间 2021-08-06
19
wangeai/K3Flight

在 CPU 上本地运行 Kimi K3,运行时内存占用约为 55GB。这是一个由 cPilot Runtime 驱动的单文件 Linux 推理服务器。

wangeai
⭐ 1,019 HTML 👤 wangeai Organization 🕐 已更新 2026-07-31 📅 创建时间 2026-07-30
20
NVIDIA/cudnn-frontend

cuDNN Frontend 是 NVIDIA 通往 cuDNN 库的现代化开源入口,也是一个不断增长的高性能开源内核集合。

NVIDIA
⭐ 1,008 Cuda 👤 NVIDIA Organization 🕐 已更新 2026-11-21 📅 创建时间 2021-01-22
21
pjlab-sys4nlp/llama-moe

⛷️ LLaMA-MoE:使用持续预训练从 LLaMA 构建专家混合模型 (EMNLP 2024)

pjlab-sys4nlp
⭐ 1,004 Python 👤 pjlab-sys4nlp Organization 🕐 已更新 2024-12-06 📅 创建时间 2023-07-24
22
whitecircle/halo

Halo 是由 White Circle 构建的用于训练大型语言模型和多模态模型的开源框架

whitecircle
⭐ 868 Python 👤 whitecircle Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-08-26
23
sail-sg/Adan

Adan:用于更快优化深度模型的自适应Nesterov动量算法

sail-sg
⭐ 818 Python 👤 sail-sg Organization 🕐 已更新 2025-06-08 📅 创建时间 2022-09-01
24
ScienceOne-AI/DeepSeek-671B-SFT-Guide

DeepSeek-V3/R1 满血版 671B 全参数微调的开源解决方案,包含从训练到推理的完整代码和脚本,以及实践中积累一些经验和结论。

ScienceOne-AI
⭐ 806 Python 👤 ScienceOne-AI User 🕐 已更新 2025-03-13 📅 创建时间 2025-03-07
25
SharpAI/SwiftLM

⚡ Apple Silicon 原生 MLX Swift LLM 推理服务器。兼容 OpenAI API,支持 100B+ MoE 模型的 SSD 流式传输,TurboQuant KV 缓存压缩,MACOS + iOS iPhone 应用。

SharpAI
⭐ 802 Swift 👤 SharpAI Organization 🕐 已更新 2026-11-19 📅 创建时间 2026-03-21
26
Tencent/YOLO-Master

[CVPR2026]🚀🚀🚀论文的官方代码 "YOLO-Master:MOE-Accelerated 与专用Transformer实现增强的实时检测。" *(YOLO = You Only Look Once)* 🔥🔥🔥

Tencent
⭐ 790 Python 👤 Tencent Organization 🕐 已更新 2026-11-15 📅 创建时间 2025-12-26
27
YeonwooSung/llm-architecture-from-scratch

使用 PyTorch 从零实现大语言模型架构

YeonwooSung
⭐ 751 Python 👤 YeonwooSung User 🕐 已更新 2026-11-19 📅 创建时间 2026-09-16
28
pegainfer-project/pegainfer

纯 Rust + CUDA 的 LLM 推理引擎——无需 PyTorch,兼容 OpenAI,支持从 Qwen3 到 Kimi-K2 的模型

pegainfer-project
⭐ 748 Rust 👤 pegainfer-project Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-02-17
29
prabanta-dev/janas

在一台 32 GB 笔记本电脑上运行 Qwen3-Next-80B(48 GB),速度可达 37 tok/s;不使用草稿解码时为 24 tok/s,而 llama.cpp 为 2.8 tok/s;读取速度为 62 tok/s 对 16 tok/s。在 Q4_K_M 下对比的全部 13 个模型中,速度都快于 llama.cpp。运行比内存更大的 LLM,纯 C 实现,支持 CPU 或 GPU。

prabanta-dev
⭐ 738 C 👤 prabanta-dev Organization 🕐 已更新 2026-11-20 📅 创建时间 2026-09-20
30
carloslfu/slotstream

在无法容纳 105 GB 模型的 Mac 上运行它。Qwen3.8-Flash-Next 4-bit,可从 SSD 流式加载,在配备 16–64 GB 内存的 Apple Silicon Mac 上运行。完全采用原生 Swift、MLX 和 Metal。离线运行,无需 Python。提供 CLI、Swift 库以及 Ollama/OpenAI/Anthropic API。兼容 Claude Code 和 Codex。

carloslfu
⭐ 674 Swift 👤 carloslfu User 🕐 已更新 2026-11-17 📅 创建时间 2026-08-28
31
wanshuiyin/ARIS-in-AI-Offer

面向 AI 秋招的中英双语 ML / LLM / diffusion / agent 面试速查表——由 ARIS /interview-cheatsheet 生成,通过 /render-html 渲染为可随处阅读的单文件 HTML——另有经 CV→DBLP 事实核查的学术主页生成器,以及亲自撰写的长篇博客 🌱

wanshuiyin
⭐ 661 Python 👤 wanshuiyin User 🕐 已更新 2026-11-18 📅 创建时间 2026-05-19
32
ymcui/Chinese-Mixtral

中文Mixtral混合专家大模型 (Chinese Mixtral MoE LLMs)

ymcui
⭐ 613 Python 👤 ymcui User 🕐 已更新 2026-04-19 📅 创建时间 2024-01-11
33
kacper-daftcode/vLLM-Moet

RTX PRO 6000 / RTX 5090 (sm_120) 上的前沿 MoE 模型:在 4 张 RTX PRO 6000 上运行 DeepSeek-V4.1-Flash、在 4 张 RTX 5090 上采用 GPU+CPU 混合方案,以及在 vLLM v0.24.0 上运行 2 位专家模型

kacper-daftcode
⭐ 580 Sass 👤 kacper-daftcode User 🕐 已更新 2026-11-18 📅 创建时间 2026-06-15
34
Indras-Mirror/Xolotl

Xolotl:在一台游戏 PC(RTX 4090 + 110 GB RAM)上,将完整的 552B 参数 DeepSeek-V4.1-Flash 作为本地编程代理运行:代理模式约 33 tok/s,快速模式约 41 tok/s,支持 512K 上下文。此外还有 Inkling-2-Mini(Thinking Machines,自有引擎 + MTP 草拟器)、GLM-5.3-Flash、Qwen3.8、LFM3-Omni。MoE 专家分层部署于 VRAM、RAM 和 NVMe 之间(Xolotl Direct)。支持 OpenAI + Anthropic API。

Indras-Mirror
⭐ 549 C++ 👤 Indras-Mirror User 🕐 已更新 2026-11-21 📅 创建时间 2026-10-06

常见问题解答

1

GitHub 上最受欢迎的 #moe 仓库是什么?

GitHub 上排名第一的开源 #moe 项目是 vllm-project/vllm,拥有 97,302 个 Star。用于LLM的高吞吐量和内存高效的推理与服务引擎

2

#moe 仓库中最常使用的编程语言有哪些?

在 GitHub 上排名靠前的 #moe 项目中,最常见的编程语言是 Python, C++, C, Cuda。

3

#moe 仓库的排名是如何计算的?

我们跟踪了 34 个标记为 #moe 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 317,125 个 Star,平均每个仓库拥有 9,327 个 Star。排名每日根据 GitHub API 更新。