Git Stars Git Stars

#sglang Repositories

Entdecke 38 aktive Open-Source-GitHub-Repositories, die mit #sglang getaggt sind und insgesamt 109,680 Sterne gesammelt haben (durchschnittlich 2,886 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist xorbitsai/inference mit 9,667 Sternen.

38
Gesamtzahl der Repositories
109,680
Gesamtanzahl der Sterne
2,886
Durchschnittliche Sterne/Repo

Insgesamt 38 Repositories

1
xorbitsai/inference

Open-Source-Inferenzplattform für Sprach-, Vision-, Embedding-, Reranking-, Bild-, Audio- und Videomodelle. Stellen Sie mehrere Engines auf heterogener Hardware bereit – vom Laptop bis zum verteilten Cluster. Stellen Sie Modelle über OpenAI-kompatible APIs bereit.

xorbitsai
⭐ 9,667 Python 👤 xorbitsai Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2023-06-14
2
THUDM/slime

slime ist ein LLM-Trainingsframework zur Skalierung des bestärkenden Lernens.

THUDM
⭐ 8,856 Python 👤 THUDM Organization 🕐 Aktualisiert 2026-11-05 📅 Erstellt 2025-06-18
3
ai-dynamo/dynamo

Ein Framework für verteiltes Inferenz-Serving im Rechenzentrum-Maßstab

ai-dynamo
⭐ 8,542 Rust 👤 ai-dynamo Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-03-03
5
kvcache-ai/Mooncake

Mooncake ist die Serving-Plattform für Kimi, einen führenden LLM-Service, der von Moonshot AI bereitgestellt wird.

kvcache-ai
⭐ 7,100 C++ 👤 kvcache-ai Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2024-06-25
6
z-lab/dflash

DFlash: Blockdiffusion für Flash-Spekulative Dekodierung

z-lab
⭐ 6,254 Python 👤 z-lab Organization 🕐 Aktualisiert 2026-08-18 📅 Erstellt 2026-01-04
7
gpustack/gpustack

Ein GPU-Cluster-Manager für hochleistungsfähiges KI-Modell-Serving (vLLM, SGLang) und bedarfsgesteuerte, per SSH zugängliche GPU-Instanzen.

gpustack
⭐ 6,097 Python 👤 gpustack Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2024-05-11
8
Gen-Verse/OpenClaw-RL

OpenClaw-RL: Trainiere jeden Agent einfach durch Sprechen

Gen-Verse
⭐ 5,750 Python 👤 Gen-Verse Organization 🕐 Aktualisiert 2026-05-23 📅 Erstellt 2026-02-26
10
CalvinXKY/InfraTech

Teilen von AI-Infrastrukturwissen und Code-Praxis: PyTorch, vLLM/SGLang, Einführung in das slime/vime-Framework ⚡️, Leistungsbeschleunigung 🚀, Grundlagen großer Modelle 🧠, KI-Software und -Hardware 🔧 usw.

CalvinXKY
⭐ 4,411 Jupyter Notebook 👤 CalvinXKY User 🕐 Aktualisiert 2026-09-20 📅 Erstellt 2025-11-14
11
ForceInjection/AI-fundamentals

KI-Grundlagen – GPU-Architektur, CUDA-Programmierung, Grundlagen großer Sprachmodelle und Wissen zu KI-Agenten.

ForceInjection
⭐ 3,515 HTML 👤 ForceInjection Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2024-09-23
12
radixark/miles

Miles ist ein auf Unternehmen ausgelegtes Verstärkungslern-Framework für die Nachtrainierung von LLM und VLM, abgezweigt von und gemeinsam mit slime weiterentwickelt.

radixark
⭐ 3,386 Python 👤 radixark Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-10-09
13
maitrix-org/llm-reasoners

Eine Bibliothek für fortgeschrittene Schlussfolgerungen großer Sprachmodelle

maitrix-org
⭐ 2,344 Python 👤 maitrix-org Organization 🕐 Aktualisiert 2025-06-10 📅 Erstellt 2023-06-01
14
datawhalechina/zero-to-sglang

Offizieller SGLang-x-Datawhale-Kurs zur LLM-Inferenz: Verstehe die Inferenz, entwickle ein Mini-SGLang von Grund auf, lies anschließend den echten SGLang-Quellcode und reiche deinen ersten PR ein. Auf Englisch und Chinesisch verfügbar.

datawhalechina
⭐ 2,306 Python 👤 datawhalechina Organization 🕐 Aktualisiert 2026-11-17 📅 Erstellt 2026-08-27
15
SemiAnalysisAI/InferenceX

Open-Source-Forschungsplattform für Inferenz

SemiAnalysisAI
⭐ 2,074 Python 👤 SemiAnalysisAI Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-07-12
16
ovg-project/kvcached

Virtualisierter elastischer KV-Cache für dynamische GPU-Freigabe und darüber hinaus

ovg-project
⭐ 2,051 Python 👤 ovg-project Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2025-05-27
17
sgl-project/sglang-omni

Hochleistungs-Laufzeitumgebung für interaktive Superintelligenzsysteme

sgl-project
⭐ 1,882 Python 👤 sgl-project Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-01-07
18
sybil-solutions/local-studio

Steuerpanel für VLLM, Sglang, llama.cpp, exllamav3

sybil-solutions
⭐ 1,854 TypeScript 👤 sybil-solutions Organization 🕐 Aktualisiert 2026-10-26 📅 Erstellt 2025-12-17
19
intel/auto-round

Effizienz der Post-Training-Quantisierung, Genauigkeit der quantisierungsbewussten Trainingsmethode

intel
⭐ 1,706 Python 👤 intel Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2024-01-04
21
OpenMOSS/MOSS-TTSD

Ein mehrsprachiges Modell zur Synthese von Langformdialogen mit mehreren Sprechern, flexibler Sprechersteuerung und Zero-Shot-Stimmenklonung

OpenMOSS
⭐ 1,423 Python 👤 OpenMOSS Organization 🕐 Aktualisiert 2026-09-06 📅 Erstellt 2025-06-17
22
XiaomiMiMo/MiMo-V2-Flash

MiMo-V2-Flash: Effizientes Schlussfolgern, Codieren und agentisches Basismodell

XiaomiMiMo
⭐ 1,399 👤 XiaomiMiMo Organization 🕐 Aktualisiert 2026-10-29 📅 Erstellt 2025-12-15
24
ModelCloud/GPTQModel

Toolkit zur Quantisierung (Komprimierung) von LLM-Modellen mit Hardwarebeschleunigung für Nvidia CUDA, AMD ROCm, Intel XPU, Tenstorrent, Huawei-Ascend-NPUs und Intel-/AMD-/Apple-CPUs über HF, vLLM und SGLang.

ModelCloud
⭐ 1,294 Python 👤 ModelCloud Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2024-06-17
25
sgl-project/SpecForge

Trainieren Sie spekulative Dekodierungsmodelle mühelos und portieren Sie sie reibungslos auf SGLang Serving.

sgl-project
⭐ 1,291 Python 👤 sgl-project Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-06-09
26
patchy631/time-to-first-token

Ein 10-Wochen-Plan mit 30 Minuten täglich für das Bereitstellen und Optimieren von LLM-Inferenz. vLLM, SGLang, Quantisierung, spekulatives Decoding und Benchmarking.

patchy631
⭐ 1,245 HTML 👤 patchy631 User 🕐 Aktualisiert 2026-08-14 📅 Erstellt 2026-08-02
27
eagle-hq/EAGLE-4

Offizieller Inferenzcode von EAGLE-4

eagle-hq
⭐ 1,220 Python 👤 eagle-hq Organization 🕐 Aktualisiert 2026-11-13 📅 Erstellt 2026-10-20
28
OpenMOSS/MOVA

Ein Basismodell, das synchronisierte Videos und Audiodaten in einem einzigen Modell generiert

OpenMOSS
⭐ 1,151 Python 👤 OpenMOSS Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-01-28
29
Tencent-Hunyuan/UniRL

UniRL ist ein Framework für das Reinforcement Learning vereinheitlichter multimodaler Modelle

Tencent-Hunyuan
⭐ 1,051 Python 👤 Tencent-Hunyuan Organization 🕐 Aktualisiert 2026-11-16 📅 Erstellt 2026-06-08
30
MoonshotAI/checkpoint-engine

Checkpoint-engine ist eine einfache Middleware zur Aktualisierung von Modellgewichten in LLM-Inferenz-Engines

MoonshotAI
⭐ 1,026 Python 👤 MoonshotAI Organization 🕐 Aktualisiert 2026-10-22 📅 Erstellt 2025-09-08
31
alvarobartt/hf-mem

Ein CLI zur Schätzung des Speicherbedarfs für Inferenz bei Hugging Face Modellen, geschrieben in Python.

alvarobartt
⭐ 956 Python 👤 alvarobartt User 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2025-12-22
32
XHToken/Spark-X2.6

Offene Modellreihe Spark-x2.6. Die Grenzen agentischer Fähigkeiten von On-Device-Modellen erweitern

XHToken
⭐ 927 👤 XHToken Organization 🕐 Aktualisiert 2026-11-04 📅 Erstellt 2026-08-24
33
smg-project/smg

Engine-agnostisches LLM-Gateway in Rust. Vollständige Kompatibilität mit den OpenAI- und Anthropic-APIs für vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini und weitere. Branchenweit erste gRPC-Pipeline, KV-Cache-bewusstes Routing, Chatverlauf, Tokenisierungs-Caching, Responses API, Embeddings, WASM-Plugins, MCP und mandantenfähige Authentifizierung.

smg-project
⭐ 736 Rust 👤 smg-project Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-11-22
34
HuiResearch/FlashTTS

Bietet hochwertige chinesische Sprachsynthese und Klonen von Stimmen, basierend auf Modellen wie SparkTTS und OrpheusTTS.

HuiResearch
⭐ 603 Python 👤 HuiResearch User 🕐 Aktualisiert 2025-05-18 📅 Erstellt 2025-03-13
35
MoonshotAI/K2-Vendor-Verifier

Präzision aller Kimi K2 API Anbieter überprüfen

MoonshotAI
⭐ 602 Python 👤 MoonshotAI Organization 🕐 Aktualisiert 2026-02-14 📅 Erstellt 2025-09-09
36
spark-arena/sparkrun

sparkrun – LLM-Inferenz-Workloads auf NVIDIA-DGX-Spark-Systemen starten, verwalten und stoppen. Live-Support: https://discord.com/invite/GH5kRgv6ZD

spark-arena
⭐ 567 Python 👤 spark-arena Organization 🕐 Aktualisiert 2026-11-17 📅 Erstellt 2026-02-16
37
MemTensor/MemT-1.0

Offizielles Repository für MemT-1.0

MemTensor
⭐ 545 Python 👤 MemTensor Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2026-10-19
38
ome-projects/ome

Open Model Engine (OME) — Kubernetes-Operator für das Bereitstellen von LLM-Diensten, die GPU-Planung und das Management des Modelllebenszyklus. Unterstützt SGLang, vLLM, TensorRT-LLM und Triton

ome-projects
⭐ 529 Go 👤 ome-projects Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-05-19

Häufig gestellte Fragen

1

Welches ist das beliebteste #sglang-Repository auf GitHub?

Das am höchsten eingestufte Open-Source-#sglang-Projekt auf GitHub ist xorbitsai/inference mit 9,667 Sternen. Open-Source-Inferenzplattform für Sprach-, Vision-, Embedding-, Reranking-, Bild-, Audio- und Videomodelle. Stellen Sie mehrere Engines auf heterogener Hardware bereit – vom Laptop bis zum verteilten Cluster. Stellen Sie Modelle über OpenAI-kompatible APIs bereit.

2

Welche Programmiersprachen werden in #sglang-Repositories am häufigsten verwendet?

Unter den am höchsten eingestuften #sglang-Projekten auf GitHub sind Python, HTML, Rust, C++ die am häufigsten verwendeten Programmiersprachen.

3

Wie wird das Ranking der #sglang-Repositories berechnet?

Wir verfolgen 38 aktive Open-Source-Repositories, die mit #sglang getaggt sind (500+ Sterne), mit insgesamt 109,680 Sternen und durchschnittlich 2,886 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.