Git Stars Git Stars

#sglang 仓库

探索 38 个标记为 #sglang 的活跃开源 GitHub 仓库,它们累计获得 109,680 个 Star(平均每个项目 2,886 个)。该主题的领先项目是 xorbitsai/inference,拥有 9,667 个 Star。

38
仓库总数
109,680
总星标数
2,886
平均每个仓库星标数
1
xorbitsai/inference

面向语言、视觉、嵌入、重排序、图像、音频和视频模型的开源推理平台。支持通过多个推理引擎部署在异构硬件上,覆盖从笔记本电脑到分布式集群的各种环境。通过兼容 OpenAI 的 API 提供模型服务。

xorbitsai
⭐ 9,667 Python 👤 xorbitsai Organization 🕐 已更新 2026-11-21 📅 创建时间 2023-06-14
2
THUDM/slime

slime 是一个用于强化学习规模化的 LLM 训练框架。

THUDM
⭐ 8,856 Python 👤 THUDM Organization 🕐 已更新 2026-11-05 📅 创建时间 2025-06-18
3
ai-dynamo/dynamo

一个数据中心规模的分布式推理服务框架

ai-dynamo
⭐ 8,542 Rust 👤 ai-dynamo Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-03-03
5
kvcache-ai/Mooncake

Mooncake 是 Moonshot AI 提供的领先 LLM 服务 Kimi 的服务平台。

kvcache-ai
⭐ 7,100 C++ 👤 kvcache-ai Organization 🕐 已更新 2026-11-21 📅 创建时间 2024-06-25
6
z-lab/dflash

DFlash:Flash 预期解码的块扩散

z-lab
⭐ 6,254 Python 👤 z-lab Organization 🕐 已更新 2026-08-18 📅 创建时间 2026-01-04
7
gpustack/gpustack

一个用于高性能 AI 模型服务(vLLM, SGLang)和按需 SSH 访问 GPU 实例的 GPU 集群管理器。

gpustack
⭐ 6,097 Python 👤 gpustack Organization 🕐 已更新 2026-11-20 📅 创建时间 2024-05-11
8
Gen-Verse/OpenClaw-RL

OpenClaw-RL:只需对话即可训练任何代理

Gen-Verse
⭐ 5,750 Python 👤 Gen-Verse Organization 🕐 已更新 2026-05-23 📅 创建时间 2026-02-26
10
CalvinXKY/InfraTech

分享AI Infra知识&代码练习:PyTorch、vLLM/SGLang、slime/vime框架入门⚡️、性能加速🚀、大模型基础🧠、AI软硬件🔧等

CalvinXKY
⭐ 4,411 Jupyter Notebook 👤 CalvinXKY User 🕐 已更新 2026-09-20 📅 创建时间 2025-11-14
11
ForceInjection/AI-fundamentals

AI 基础知识 - GPU 架构、CUDA 编程、大模型基础及AI Agent 相关知识。

ForceInjection
⭐ 3,515 HTML 👤 ForceInjection Organization 🕐 已更新 2026-11-20 📅 创建时间 2024-09-23
12
radixark/miles

Miles 是一个面向企业的强化学习框架,用于 LLM 和 VLM 的后期训练,派生自并与 slime 共进化。

radixark
⭐ 3,386 Python 👤 radixark Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-10-09
13
maitrix-org/llm-reasoners

用于高级大型语言模型推理的库

maitrix-org
⭐ 2,344 Python 👤 maitrix-org Organization 🕐 已更新 2025-06-10 📅 创建时间 2023-06-01
14
datawhalechina/zero-to-sglang

SGLang x Datawhale 官方大语言模型推理课程:理解推理原理,从零构建一个迷你版 SGLang,然后阅读真正的 SGLang 源码并提交你的第一个 PR。课程提供英文和中文版本。

datawhalechina
⭐ 2,306 Python 👤 datawhalechina Organization 🕐 已更新 2026-11-17 📅 创建时间 2026-08-27
15
SemiAnalysisAI/InferenceX

开源推理研究平台

SemiAnalysisAI
⭐ 2,074 Python 👤 SemiAnalysisAI Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-07-12
16
ovg-project/kvcached

虚拟化弹性 KV 缓存:动态 GPU 共享及未来应用

ovg-project
⭐ 2,051 Python 👤 ovg-project Organization 🕐 已更新 2026-11-20 📅 创建时间 2025-05-27
17
sgl-project/sglang-omni

面向交互式超级智能系统的高性能服务运行时

sgl-project
⭐ 1,882 Python 👤 sgl-project Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-01-07
18
sybil-solutions/local-studio

VLLM、Sglang、llama.cpp、exllamav3 控制面板

sybil-solutions
⭐ 1,854 TypeScript 👤 sybil-solutions Organization 🕐 已更新 2026-10-26 📅 创建时间 2025-12-17
19
intel/auto-round

训练后量化的效率,量化感知训练的精度

intel
⭐ 1,706 Python 👤 intel Organization 🕐 已更新 2026-11-21 📅 创建时间 2024-01-04
21
OpenMOSS/MOSS-TTSD

一种用于长篇、多说话人对话合成的多语言模型,支持灵活的说话人控制和零样本语音克隆

OpenMOSS
⭐ 1,423 Python 👤 OpenMOSS Organization 🕐 已更新 2026-09-06 📅 创建时间 2025-06-17
22
XiaomiMiMo/MiMo-V2-Flash

MiMo-V2-Flash:高效的推理、编码和代理基础模型

XiaomiMiMo
⭐ 1,399 👤 XiaomiMiMo Organization 🕐 已更新 2026-10-29 📅 创建时间 2025-12-15
24
ModelCloud/GPTQModel

LLM 模型量化(压缩)工具包,通过 HF、vLLM 和 SGLang 支持 Nvidia CUDA、AMD ROCm、Intel XPU、Tenstorrent、华为昇腾 NPU,以及 Intel/AMD/Apple CPU 的硬件加速。

ModelCloud
⭐ 1,294 Python 👤 ModelCloud Organization 🕐 已更新 2026-11-21 📅 创建时间 2024-06-17
25
sgl-project/SpecForge

轻松训练推测性解码模型,并将其顺利移植到 SGLang 服务。

sgl-project
⭐ 1,291 Python 👤 sgl-project Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-06-09
26
patchy631/time-to-first-token

一份为期 10 周、每天 30 分钟的 LLM 推理服务与优化路线图。vLLM、SGLang、量化、推测解码、基准测试。

patchy631
⭐ 1,245 HTML 👤 patchy631 User 🕐 已更新 2026-08-14 📅 创建时间 2026-08-02
27
eagle-hq/EAGLE-4

EAGLE-4 官方推理代码

eagle-hq
⭐ 1,220 Python 👤 eagle-hq Organization 🕐 已更新 2026-11-13 📅 创建时间 2026-10-20
28
OpenMOSS/MOVA

一个在单一模型中生成同步视频和音频的基础模型

OpenMOSS
⭐ 1,151 Python 👤 OpenMOSS Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-01-28
29
Tencent-Hunyuan/UniRL

UniRL 是一个用于统一多模态模型强化学习的框架

Tencent-Hunyuan
⭐ 1,051 Python 👤 Tencent-Hunyuan Organization 🕐 已更新 2026-11-16 📅 创建时间 2026-06-08
30
MoonshotAI/checkpoint-engine

Checkpoint-engine 是一个简单的中间件,用于在 LLM 推理引擎中更新模型权重

MoonshotAI
⭐ 1,026 Python 👤 MoonshotAI Organization 🕐 已更新 2026-10-22 📅 创建时间 2025-09-08
31
alvarobartt/hf-mem

一个用于估算 Hugging Face 模型推理内存需求的命令行工具,使用 Python 编写。

alvarobartt
⭐ 956 Python 👤 alvarobartt User 🕐 已更新 2026-11-20 📅 创建时间 2025-12-22
32
XHToken/Spark-X2.6

Spark-x2.6 开放模型系列:突破端侧模型智能体能力的极限

XHToken
⭐ 927 👤 XHToken Organization 🕐 已更新 2026-11-04 📅 创建时间 2026-08-24
33
smg-project/smg

基于 Rust 构建的引擎无关型 LLM 网关。全面兼容 OpenAI 和 Anthropic API,支持 vLLM、TRT-LLM、TokenSpeed、SGLang、OpenAI、Gemini 等更多平台。业界首创的 gRPC 流水线、感知 KV 缓存的路由、聊天历史记录、分词缓存、Responses API、嵌入、WASM 插件、MCP 以及多租户身份认证。

smg-project
⭐ 736 Rust 👤 smg-project Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-11-22
34
HuiResearch/FlashTTS

基于SparkTTS、OrpheusTTS等模型,提供高质量中文语音合成与声音克隆服务。

HuiResearch
⭐ 603 Python 👤 HuiResearch User 🕐 已更新 2025-05-18 📅 创建时间 2025-03-13
35
MoonshotAI/K2-Vendor-Verifier

验证所有 Kimi K2 API 供应商的精确度

MoonshotAI
⭐ 602 Python 👤 MoonshotAI Organization 🕐 已更新 2026-02-14 📅 创建时间 2025-09-09
36
spark-arena/sparkrun

sparkrun——在 NVIDIA DGX Spark 系统上启动、管理和停止 LLM 推理工作负载。在线支持:https://discord.com/invite/GH5kRgv6ZD

spark-arena
⭐ 567 Python 👤 spark-arena Organization 🕐 已更新 2026-11-17 📅 创建时间 2026-02-16
37
MemTensor/MemT-1.0

MemT-1.0 官方仓库

MemTensor
⭐ 545 Python 👤 MemTensor Organization 🕐 已更新 2026-11-20 📅 创建时间 2026-10-19
38
ome-projects/ome

Open Model Engine (OME) —— 用于大语言模型服务部署、GPU 调度和模型生命周期管理的 Kubernetes Operator。支持 SGLang、vLLM、TensorRT-LLM 和 Triton

ome-projects
⭐ 529 Go 👤 ome-projects Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-05-19

常见问题解答

1

GitHub 上最受欢迎的 #sglang 仓库是什么?

GitHub 上排名第一的开源 #sglang 项目是 xorbitsai/inference,拥有 9,667 个 Star。面向语言、视觉、嵌入、重排序、图像、音频和视频模型的开源推理平台。支持通过多个推理引擎部署在异构硬件上,覆盖从笔记本电脑到分布式集群的各种环境。通过兼容 OpenAI 的 API 提供模型服务。

2

#sglang 仓库中最常使用的编程语言有哪些?

在 GitHub 上排名靠前的 #sglang 项目中,最常见的编程语言是 Python, HTML, Rust, C++。

3

#sglang 仓库的排名是如何计算的?

我们跟踪了 38 个标记为 #sglang 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 109,680 个 Star,平均每个仓库拥有 2,886 个 Star。排名每日根据 GitHub API 更新。