Git Stars Git Stars

#sglang Репозитории

Откройте для себя 38 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #sglang, с общим числом 109,680 звёзд (в среднем 2,886 на проект). Лидером этой темы является xorbitsai/inference, набравший 9,667 звёзд.

38
Всего репозиториев
109,680
Всего звезд
2,886
Среднее количество звезд на репозиторий

Всего репозиториев: 38

1
xorbitsai/inference

Открытая платформа для инференса языковых, визуальных, эмбеддинговых моделей, моделей переранжирования, изображений, аудио и видео. Развертывайте несколько движков на разнородном оборудовании — от ноутбука до распределенного кластера. Предоставляйте модели через API, совместимые с OpenAI.

xorbitsai
⭐ 9,667 Python 👤 xorbitsai Organization 🕐 Обновлено 2026-11-21 📅 Создано 2023-06-14
2
THUDM/slime

slime — это фреймворк для обучения LLM, предназначенный для масштабирования обучения с подкреплением.

THUDM
⭐ 8,856 Python 👤 THUDM Organization 🕐 Обновлено 2026-11-05 📅 Создано 2025-06-18
3
ai-dynamo/dynamo

Фреймворк для распределенного обслуживания выводов в масштабе дата-центра

ai-dynamo
⭐ 8,542 Rust 👤 ai-dynamo Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-03-03
4
zhaochenyang20/Awesome-ML-SYS-Tutorial

Мои учебные заметки по ML SYS.

zhaochenyang20
⭐ 7,695 HTML 👤 zhaochenyang20 User 🕐 Обновлено 2026-10-21 📅 Создано 2024-11-09
5
kvcache-ai/Mooncake

Mooncake — это платформа обслуживания для Kimi, ведущего LLM-сервиса, предоставляемого Moonshot AI.

kvcache-ai
⭐ 7,100 C++ 👤 kvcache-ai Organization 🕐 Обновлено 2026-11-21 📅 Создано 2024-06-25
6
z-lab/dflash

DFlash: Блочный диффузионный подход для предсказывающей декодировки Flash

z-lab
⭐ 6,254 Python 👤 z-lab Organization 🕐 Обновлено 2026-08-18 📅 Создано 2026-01-04
7
gpustack/gpustack

Менеджер GPU-кластеров для высокопроизводительного обслуживания моделей ИИ (vLLM, SGLang) и предоставления GPU-инстансов по запросу с доступом по SSH.

gpustack
⭐ 6,097 Python 👤 gpustack Organization 🕐 Обновлено 2026-11-20 📅 Создано 2024-05-11
8
Gen-Verse/OpenClaw-RL

OpenClaw-RL: Обучай любого агента просто разговаривая

Gen-Verse
⭐ 5,750 Python 👤 Gen-Verse Organization 🕐 Обновлено 2026-05-23 📅 Создано 2026-02-26
10
CalvinXKY/InfraTech

Обмен знаниями об AI Infra и практика кода: PyTorch, vLLM/SGLang, введение в фреймворк slime/vime ⚡️, ускорение производительности 🚀, основы больших моделей 🧠, программное и аппаратное обеспечение ИИ 🔧 и т.д.

CalvinXKY
⭐ 4,411 Jupyter Notebook 👤 CalvinXKY User 🕐 Обновлено 2026-09-20 📅 Создано 2025-11-14
11
ForceInjection/AI-fundamentals

Основы ИИ — архитектура GPU, программирование на CUDA, основы больших языковых моделей и знания об ИИ-агентах.

ForceInjection
⭐ 3,515 HTML 👤 ForceInjection Organization 🕐 Обновлено 2026-11-20 📅 Создано 2024-09-23
12
radixark/miles

Miles – это корпоративно ориентированная система обучения с подкреплением для пост‑тренировки LLM и VLM, форк, созданный и совместно развиваемый со slime.

radixark
⭐ 3,386 Python 👤 radixark Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-10-09
13
maitrix-org/llm-reasoners

Библиотека для продвинутых рассуждений больших языковых моделей

maitrix-org
⭐ 2,344 Python 👤 maitrix-org Organization 🕐 Обновлено 2025-06-10 📅 Создано 2023-06-01
14
datawhalechina/zero-to-sglang

Официальный курс SGLang x Datawhale по инференсу LLM: разберитесь в инференсе, создайте мини-SGLang с нуля, затем изучите настоящий исходный код SGLang и отправьте свой первый PR. Доступен на английском и китайском языках.

datawhalechina
⭐ 2,306 Python 👤 datawhalechina Organization 🕐 Обновлено 2026-11-17 📅 Создано 2026-08-27
15
SemiAnalysisAI/InferenceX

Исследовательская платформа с открытым исходным кодом для инференса

SemiAnalysisAI
⭐ 2,074 Python 👤 SemiAnalysisAI Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-07-12
16
ovg-project/kvcached

Виртуализированный эластичный KV-кэш для динамического совместного использования GPU и не только

ovg-project
⭐ 2,051 Python 👤 ovg-project Organization 🕐 Обновлено 2026-11-20 📅 Создано 2025-05-27
17
sgl-project/sglang-omni

Высокопроизводительная среда выполнения для обслуживания интерактивных систем сверхинтеллекта

sgl-project
⭐ 1,882 Python 👤 sgl-project Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-01-07
18
sybil-solutions/local-studio

Панель управления для VLLM, Sglang, llama.cpp, exllamav3

sybil-solutions
⭐ 1,854 TypeScript 👤 sybil-solutions Organization 🕐 Обновлено 2026-10-26 📅 Создано 2025-12-17
19
intel/auto-round

Эффективность на уровне посттренировочной квантования, точность на уровне квантования с учетом обучения

intel
⭐ 1,706 Python 👤 intel Organization 🕐 Обновлено 2026-11-21 📅 Создано 2024-01-04
21
OpenMOSS/MOSS-TTSD

Многоязычная модель для синтеза длинноформатных диалогов с несколькими говорящими, гибким управлением говорящими и клонированием голоса в режиме zero-shot

OpenMOSS
⭐ 1,423 Python 👤 OpenMOSS Organization 🕐 Обновлено 2026-09-06 📅 Создано 2025-06-17
22
XiaomiMiMo/MiMo-V2-Flash

MiMo-V2-Flash: Эффективное рассуждение, кодирование и агентная базовая модель

XiaomiMiMo
⭐ 1,399 👤 XiaomiMiMo Organization 🕐 Обновлено 2026-10-29 📅 Создано 2025-12-15
24
ModelCloud/GPTQModel

Инструментарий для квантования (сжатия) моделей LLM с поддержкой аппаратного ускорения для Nvidia CUDA, AMD ROCm, Intel XPU, Tenstorrent, NPU Huawei Ascend и процессоров Intel/AMD/Apple через HF, vLLM и SGLang.

ModelCloud
⭐ 1,294 Python 👤 ModelCloud Organization 🕐 Обновлено 2026-11-21 📅 Создано 2024-06-17
25
sgl-project/SpecForge

Легко обучайте модели спекулятивного декодирования и плавно портируйте их на SGLang для обслуживания.

sgl-project
⭐ 1,291 Python 👤 sgl-project Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-06-09
26
patchy631/time-to-first-token

10-недельная дорожная карта по обслуживанию и оптимизации инференса LLM — по 30 минут в день. vLLM, SGLang, квантизация, спекулятивное декодирование, бенчмаркинг.

patchy631
⭐ 1,245 HTML 👤 patchy631 User 🕐 Обновлено 2026-08-14 📅 Создано 2026-08-02
27
eagle-hq/EAGLE-4

Официальный код инференса EAGLE-4

eagle-hq
⭐ 1,220 Python 👤 eagle-hq Organization 🕐 Обновлено 2026-11-13 📅 Создано 2026-10-20
28
OpenMOSS/MOVA

Базовая модель, которая генерирует синхронизированные видео и аудио в рамках одной модели

OpenMOSS
⭐ 1,151 Python 👤 OpenMOSS Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-01-28
29
Tencent-Hunyuan/UniRL

UniRL — это фреймворк для обучения с подкреплением унифицированных мультимодальных моделей

Tencent-Hunyuan
⭐ 1,051 Python 👤 Tencent-Hunyuan Organization 🕐 Обновлено 2026-11-16 📅 Создано 2026-06-08
30
MoonshotAI/checkpoint-engine

Checkpoint-engine — это простой промежуточный слой для обновления весов модели в механизмах вывода LLM

MoonshotAI
⭐ 1,026 Python 👤 MoonshotAI Organization 🕐 Обновлено 2026-10-22 📅 Создано 2025-09-08
31
alvarobartt/hf-mem

CLI-инструмент для оценки требований к памяти инференса для моделей Hugging Face, написанный на Python.

alvarobartt
⭐ 956 Python 👤 alvarobartt User 🕐 Обновлено 2026-11-20 📅 Создано 2025-12-22
32
XHToken/Spark-X2.6

Серия открытых моделей Spark-x2.6. Расширяя границы агентных возможностей моделей на устройстве

XHToken
⭐ 927 👤 XHToken Organization 🕐 Обновлено 2026-11-04 📅 Создано 2026-08-24
33
smg-project/smg

Не зависящий от движка LLM-шлюз на Rust. Полная совместимость с API OpenAI и Anthropic для vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini и других платформ. Первая в отрасли конвейерная система gRPC, маршрутизация с учетом KV-кэша, история чатов, кэширование токенизации, Responses API, эмбеддинги, плагины WASM, MCP и многоарендная аутентификация.

smg-project
⭐ 736 Rust 👤 smg-project Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-11-22
34
HuiResearch/FlashTTS

Предоставляет высококачественные услуги по синтезу китайской речи и клонированию голоса на основе таких моделей, как SparkTTS, OrpheusTTS и др.

HuiResearch
⭐ 603 Python 👤 HuiResearch User 🕐 Обновлено 2025-05-18 📅 Создано 2025-03-13
35
MoonshotAI/K2-Vendor-Verifier

Проверить точность всех поставщиков API Kimi K2

MoonshotAI
⭐ 602 Python 👤 MoonshotAI Organization 🕐 Обновлено 2026-02-14 📅 Создано 2025-09-09
36
spark-arena/sparkrun

sparkrun — запускайте, управляйте и останавливайте рабочие нагрузки вывода LLM на системах NVIDIA DGX Spark. Поддержка в реальном времени: https://discord.com/invite/GH5kRgv6ZD

spark-arena
⭐ 567 Python 👤 spark-arena Organization 🕐 Обновлено 2026-11-17 📅 Создано 2026-02-16
37
MemTensor/MemT-1.0

Официальный репозиторий MemT-1.0

MemTensor
⭐ 545 Python 👤 MemTensor Organization 🕐 Обновлено 2026-11-20 📅 Создано 2026-10-19
38
ome-projects/ome

Open Model Engine (OME) — оператор Kubernetes для предоставления LLM-сервисов, планирования использования GPU и управления жизненным циклом моделей. Поддерживает SGLang, vLLM, TensorRT-LLM и Triton

ome-projects
⭐ 529 Go 👤 ome-projects Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-05-19

Часто задаваемые вопросы

1

Какой репозиторий по теме #sglang наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #sglang на GitHub — xorbitsai/inference, набравший 9,667 звёзд. Открытая платформа для инференса языковых, визуальных, эмбеддинговых моделей, моделей переранжирования, изображений, аудио и видео. Развертывайте несколько движков на разнородном оборудовании — от ноутбука до распределенного кластера. Предоставляйте модели через API, совместимые с OpenAI.

2

Какие языки программирования чаще всего используются в репозиториях по теме #sglang?

Среди наиболее высоко оценённых проектов по теме #sglang на GitHub чаще всего используются языки программирования Python, HTML, Rust, C++.

3

Как рассчитывается рейтинг репозиториев по теме #sglang?

Мы отслеживаем 38 активных репозиториев с открытым исходным кодом, отмеченных тегом #sglang (500 и более звёзд), с общим числом 109,680 звёзд и в среднем 2,886 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.