Git Stars Git Stars

#moe Repositories

Entdecke 34 aktive Open-Source-GitHub-Repositories, die mit #moe getaggt sind und insgesamt 317,125 Sterne gesammelt haben (durchschnittlich 9,327 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist vllm-project/vllm mit 97,302 Sternen.

34
Gesamtzahl der Repositories
317,125
Gesamtanzahl der Sterne
9,327
Durchschnittliche Sterne/Repo

Insgesamt 34 Repositories

1
vllm-project/vllm

Eine hochdurchsatzfähige und speichereffiziente Inferenz- und Serving-Engine für LLMs

vllm-project
⭐ 97,302 Python 👤 vllm-project Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2023-02-09
2
hiyouga/LlamaFactory

Vereinheitlichte effiziente Feinabstimmung von über 100 LLMs & VLMs (ACL 2024)

hiyouga
⭐ 76,171 Python 👤 hiyouga User 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2023-05-28
3
sgl-project/sglang

SGLang ist ein Hochleistungs-Serving-Framework für große Sprachmodelle und multimodale Modelle.

sgl-project
⭐ 38,899 Python 👤 sgl-project Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2024-01-08
4
FlashML-org/FreeToken

FreeToken bringt Modellbereitstellung auf Rechenzentrumsniveau auf Ihren Desktop. Führen Sie riesige Modelle lokal, schnell und effizient aus.

FlashML-org
⭐ 17,522 Python 👤 FlashML-org User 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-07-20
5
modelscope/ms-swift

Verwenden Sie PEFT oder ein Training mit vollständigen Parametern für CPT/SFT/DPO/GRPO auf über 600 LLMs (Qwen3.8, DeepSeek-V4, GLM-5.1, InternLM3, Llama4, ...) und über 300 MLLMs (Qwen3-VL, Qwen3-Omni, InternVL3.5, Ovis2.5, GLM5.3, Gemma4, LLaVA, Phi4, ...) (AAAI 2025).

modelscope
⭐ 16,138 Python 👤 modelscope Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2023-08-01
6
NVIDIA/TensorRT-LLM

TensorRT LLM bietet Benutzern eine einfach zu bedienende Python-API zur Definition von Large Language Models (LLMs) und unterstützt hochmoderne Optimierungen für eine effiziente Inferenz auf NVIDIA GPUs. TensorRT LLM enthält außerdem Komponenten zur Erstellung von Python- und C++-Runtimes, die die Inferenzdurchführung auf performante Weise orchestrieren.

NVIDIA
⭐ 15,112 Python 👤 NVIDIA Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2023-08-16
7
FareedKhan-dev/kimi-k3-in-c

Ein Kimi K3-Modell mit 2,78 Billionen Parametern, das Inferenz auf einer einzelnen CPU mit 8,24 GB RAM ausführt. Portables C99: kein BLAS, kein Framework, keine GPU.

FareedKhan-dev
⭐ 12,523 C 👤 FareedKhan-dev User 🕐 Aktualisiert 2026-11-16 📅 Erstellt 2026-08-01
8
flashinfer-ai/flashinfer

FlashInfer: Kernel-Bibliothek für LLM-Serving

flashinfer-ai
⭐ 6,982 Cuda 👤 flashinfer-ai Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2023-07-22
9
czy0729/Bangumi

:electron: Eine inoffizielle UI-first-App-Client für https://bgm.tv für Android und iOS, gebaut mit React Native. Eine werbefreie, von Hobbys getriebene, nicht gewinnorientierte, speziell für ACG entwickelte, ähnliche Douban-ähnliche Anime-Tracking-App, bgm.tv-Drittanbieter-Client. Für mobile Geräte neu gestaltet, mit vielen erweiterten Funktionen, die auf der Webversion schwer umsetzbar sind, und erheblichen Anpassungsoptionen. Derzeit für iOS / Android angepasst.

czy0729
⭐ 6,268 TypeScript 👤 czy0729 User 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2019-05-08
10
zai-org/GLM-4.5

GLM-4.5: Agentische, Schlussfolgernde und Kodierungsfähige (ARC) Fundamentmodelle

zai-org
⭐ 4,426 Python 👤 zai-org Organization 🕐 Aktualisiert 2026-02-01 📅 Erstellt 2025-07-20
11
mw00/project-maya

Führen Sie GLM-5.3 (744B), DeepSeek-V4.1-Flash (748B), MiniMax-M3.1-Flash (428B), GLM-5.3-Flash (321B) und Hy4-Flash (220B) auf Ihren eigenen GPUs aus – ab 8 GB VRAM, mit Unterstützung für NVIDIA und AMD, einem einzigen Dashboard sowie einer mit OpenAI und Anthropic kompatiblen API.

mw00
⭐ 3,140 C++ 👤 mw00 User 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-10-06
12
PKU-YuanGroup/MoE-LLaVA

【TMM 2025🔥】 Mixture-of-Experts für große Vision-Language-Modelle

PKU-YuanGroup
⭐ 2,321 Python 👤 PKU-YuanGroup Organization 🕐 Aktualisiert 2025-07-15 📅 Erstellt 2023-12-14
13
MoonshotAI/MoBA

MoBA: Mixture of Block Attention für LLMs mit langem Kontext

MoonshotAI
⭐ 2,122 Python 👤 MoonshotAI Organization 🕐 Aktualisiert 2025-04-03 📅 Erstellt 2025-02-17
14
uccl-project/uccl

UCCL ist eine effiziente Kommunikationsbibliothek für GPUs, die Kollektive, P2P (z. B. KV-Cache-Übertragung, RL-Gewichtsübertragung) und EP (z. B. GPU-gesteuert) abdeckt.

uccl-project
⭐ 1,590 C++ 👤 uccl-project Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-01-06
15
wici-ai/inferssd

Führe Modelle aus, die größer sind als dein RAM oder VRAM, indem du MoE-Experten von einer SSD streamst. Basiert auf llama.cpp.

wici-ai
⭐ 1,277 C++ 👤 wici-ai Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2026-10-22
16
davidmrau/mixture-of-experts

PyTorch-Reimplementierung von "The Sparsely-Gated Mixture-of-Experts Layer" von Noam Shazeer et al. https://arxiv.org/abs/1701.06538

davidmrau
⭐ 1,215 Python 👤 davidmrau User 🕐 Aktualisiert 2024-04-19 📅 Erstellt 2019-07-19
17
Helldez/BigMoeOnEdge

Führe MoE-Modelle aus, die größer sind als dein RAM. MoE-Modelle der Spitzenklasse auf einem Smartphone, Laptop oder Edge-Gerät. Verlustfrei, mit unverändertem llama.cpp. Ein adaptiver Streaming-Optimierer. Jede Hardware, jedes Betriebssystem, jedes Modell und jede Quantisierung – über einen lokalen OpenAI-kompatiblen Server.

Helldez
⭐ 1,066 C++ 👤 Helldez User 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-07-10
18
microsoft/Tutel

Tutel MoE: Optimierte Mixture-of-Experts-Bibliothek mit Unterstützung für GLM/Kimi/GPT/DeepSeek/Qwen unter Verwendung von FP8/NVFP4/MXFP4

microsoft
⭐ 1,027 C 👤 microsoft Organization 🕐 Aktualisiert 2026-11-06 📅 Erstellt 2021-08-06
19
wangeai/K3Flight

Führen Sie Kimi K3 lokal auf der CPU mit ca. 55 GB gemessenem Laufzeit-RAM aus. Ein Einzeldatei-Linux-Inferenzserver, betrieben von cPilot Runtime.

wangeai
⭐ 1,019 HTML 👤 wangeai Organization 🕐 Aktualisiert 2026-07-31 📅 Erstellt 2026-07-30
20
NVIDIA/cudnn-frontend

cuDNN Frontend ist NVIDIAs moderner Open-Source-Einstiegspunkt zur cuDNN-Bibliothek und eine wachsende Sammlung von leistungsstarken Open-Source-Kernels.

NVIDIA
⭐ 1,008 Cuda 👤 NVIDIA Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2021-01-22
21
pjlab-sys4nlp/llama-moe

⛷️ LLaMA-MoE: Aufbau von Mixture-of-Experts aus LLaMA mit fortlaufendem Vortraining (EMNLP 2024)

pjlab-sys4nlp
⭐ 1,004 Python 👤 pjlab-sys4nlp Organization 🕐 Aktualisiert 2024-12-06 📅 Erstellt 2023-07-24
22
whitecircle/halo

Halo ist ein von White Circle entwickeltes Open-Source-Framework zum Trainieren großer Sprachmodelle und multimodaler Modelle

whitecircle
⭐ 868 Python 👤 whitecircle Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-08-26
23
sail-sg/Adan

Adan: Adaptive Nesterov Momentum Algorithm für schnelleres Optimieren tiefer Modelle

sail-sg
⭐ 818 Python 👤 sail-sg Organization 🕐 Aktualisiert 2025-06-08 📅 Erstellt 2022-09-01
24
ScienceOne-AI/DeepSeek-671B-SFT-Guide

Eine Open-Source-Lösung für das Fine-Tuning des vollständigen Parameters von DeepSeek-V3/R1 671B, einschließlich vollständigem Code und Skripten vom Training bis zur Inferenz sowie einiger praktischer Erfahrungen und Schlussfolgerungen.

ScienceOne-AI
⭐ 806 Python 👤 ScienceOne-AI User 🕐 Aktualisiert 2025-03-13 📅 Erstellt 2025-03-07
25
SharpAI/SwiftLM

⚡ Native MLX Swift LLM-Inferenzserver für Apple Silicon. OpenAI-kompatible API, SSD-Streaming für 100B+ MoE-Modelle, TurboQuant KV-Cache-Kompression, MACOS + iOS iPhone-App.

SharpAI
⭐ 802 Swift 👤 SharpAI Organization 🕐 Aktualisiert 2026-11-19 📅 Erstellt 2026-03-21
26
Tencent/YOLO-Master

[CVPR2026]🚀🚀🚀Offizieller Code für das Papier "YOLO-Master: MOE-Accelerated mit spezialisierten Transformern für verbesserte Echtzeit-Erkennung." *(YOLO = You Only Look Once)* 🔥🔥🔥

Tencent
⭐ 790 Python 👤 Tencent Organization 🕐 Aktualisiert 2026-11-15 📅 Erstellt 2025-12-26
27
YeonwooSung/llm-architecture-from-scratch

LLM-Architekturen von Grund auf mit PyTorch implementieren

YeonwooSung
⭐ 751 Python 👤 YeonwooSung User 🕐 Aktualisiert 2026-11-19 📅 Erstellt 2026-09-16
28
pegainfer-project/pegainfer

Reine Rust + CUDA LLM-Inferenz-Engine — kein PyTorch, OpenAI-kompatibel, bedient Qwen3 bis Kimi-K2

pegainfer-project
⭐ 748 Rust 👤 pegainfer-project Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-02-17
29
prabanta-dev/janas

37 tok/s mit Qwen3-Next-80B (48 GB) auf einem 32-GB-Laptop; 24 ohne Drafts gegenüber 2,8 mit llama.cpp; beim Lesen 62 gegenüber 16 tok/s. Schneller als llama.cpp bei allen 13 Modellen, die in Q4_K_M verglichen wurden. LLMs, die größer sind als dein RAM – pures C, für CPU oder GPU.

prabanta-dev
⭐ 738 C 👤 prabanta-dev Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2026-09-20
30
carloslfu/slotstream

Führen Sie ein 105-GB-KI-Modell auf einem Mac aus, auf dem es nicht vollständig Platz findet. Qwen3.8-Flash-Next in 4-Bit, gestreamt von einer SSD auf Apple-Silicon-Macs mit 16–64 GB Arbeitsspeicher. Vollständig nativ mit Swift, MLX und Metal. Offline, ohne Python. CLI, Swift-Bibliothek sowie Ollama-/OpenAI-/Anthropic-APIs. Funktioniert mit Claude Code und Codex.

carloslfu
⭐ 674 Swift 👤 carloslfu User 🕐 Aktualisiert 2026-11-17 📅 Erstellt 2026-08-28
31
wanshuiyin/ARIS-in-AI-Offer

Bilinguale (Chinesisch + Englisch) Spickzettel für Vorstellungsgespräche zu ML / LLM / Diffusion / Agenten im herbstlichen KI-Recruiting — erstellt mit ARIS /interview-cheatsheet und von /render-html als überall lesbare einteilige HTML-Dateien gerendert — außerdem ein anhand von CV→DBLP faktengeprüfter Generator für akademische Homepages sowie selbst verfasste Langform-Blogs 🌱

wanshuiyin
⭐ 661 Python 👤 wanshuiyin User 🕐 Aktualisiert 2026-11-18 📅 Erstellt 2026-05-19
32
ymcui/Chinese-Mixtral

Chinesisches Mixtral Mixture-of-Experts LLM (Chinese Mixtral MoE LLMs)

ymcui
⭐ 613 Python 👤 ymcui User 🕐 Aktualisiert 2026-04-19 📅 Erstellt 2024-01-11
33
kacper-daftcode/vLLM-Moet

Moderne MoE-Modelle auf RTX PRO 6000 / RTX 5090 (sm_120): DeepSeek-V4.1-Flash auf 4 RTX PRO 6000, als GPU+CPU-Hybrid auf 4 RTX 5090 und 2-Bit-Experten auf vLLM v0.24.0

kacper-daftcode
⭐ 580 Sass 👤 kacper-daftcode User 🕐 Aktualisiert 2026-11-18 📅 Erstellt 2026-06-15
34
Indras-Mirror/Xolotl

Xolotl: Führe DeepSeek-V4.1-Flash mit allen 552B Parametern als lokalen Coding-Agent auf einem einzigen Gaming-PC aus (RTX 4090 + 110 GB RAM): ca. 33 Tok/s im Agentenmodus, ca. 41 im Schnellmodus, 512K Kontext. Dazu Inkling-2-Mini (Thinking Machines, eigene Engine + MTP-Entwurfsmodul), GLM-5.3-Flash, Qwen3.8 und LFM3-Omni. MoE-Experten werden stufenweise über VRAM, RAM und NVMe verteilt (Xolotl Direct). OpenAI- und Anthropic-API.

Indras-Mirror
⭐ 549 C++ 👤 Indras-Mirror User 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-10-06

Häufig gestellte Fragen

1

Welches ist das beliebteste #moe-Repository auf GitHub?

Das am höchsten eingestufte Open-Source-#moe-Projekt auf GitHub ist vllm-project/vllm mit 97,302 Sternen. Eine hochdurchsatzfähige und speichereffiziente Inferenz- und Serving-Engine für LLMs

2

Welche Programmiersprachen werden in #moe-Repositories am häufigsten verwendet?

Unter den am höchsten eingestuften #moe-Projekten auf GitHub sind Python, C++, C, Cuda die am häufigsten verwendeten Programmiersprachen.

3

Wie wird das Ranking der #moe-Repositories berechnet?

Wir verfolgen 34 aktive Open-Source-Repositories, die mit #moe getaggt sind (500+ Sterne), mit insgesamt 317,125 Sternen und durchschnittlich 9,327 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.