Git Stars Git Stars

#sglang Repositórios

Descubra 38 repositórios ativos de código aberto no GitHub marcados com #sglang, acumulando um total de 109,680 estrelas (uma média de 2,886 por projeto). O líder deste tópico é xorbitsai/inference, com 9,667 estrelas.

38
Total de Repositórios
109,680
Total de estrelas
2,886
Média de Estrelas/Repositório

38 repositórios no total

1
xorbitsai/inference

Plataforma de inferência de código aberto para modelos de linguagem, visão, embeddings, reranking, imagem, áudio e vídeo. Implante vários mecanismos em hardware heterogêneo, de um laptop a um cluster distribuído. Disponibilize modelos por meio de APIs compatíveis com a OpenAI.

xorbitsai
⭐ 9,667 Python 👤 xorbitsai Organization 🕐 Atualizado 2026-11-21 📅 Criado 2023-06-14
2
THUDM/slime

slime é uma estrutura de treinamento de LLM para escalar o aprendizado por reforço.

THUDM
⭐ 8,856 Python 👤 THUDM Organization 🕐 Atualizado 2026-11-05 📅 Criado 2025-06-18
3
ai-dynamo/dynamo

Um Framework de Serviço de Inferência Distribuída em Escala de Data Center

ai-dynamo
⭐ 8,542 Rust 👤 ai-dynamo Organization 🕐 Atualizado 2026-11-21 📅 Criado 2025-03-03
5
kvcache-ai/Mooncake

Mooncake é a plataforma de serviço para Kimi, um serviço de LLM líder fornecido pela Moonshot AI.

kvcache-ai
⭐ 7,100 C++ 👤 kvcache-ai Organization 🕐 Atualizado 2026-11-21 📅 Criado 2024-06-25
6
z-lab/dflash

DFlash: Difusão de Blocos para Decodificação Especulativa Flash

z-lab
⭐ 6,254 Python 👤 z-lab Organization 🕐 Atualizado 2026-08-18 📅 Criado 2026-01-04
7
gpustack/gpustack

Um gerenciador de cluster de GPU para serviço de modelos de IA de alto desempenho (vLLM, SGLang) e instâncias de GPU sob demanda acessíveis via SSH.

gpustack
⭐ 6,097 Python 👤 gpustack Organization 🕐 Atualizado 2026-11-20 📅 Criado 2024-05-11
8
Gen-Verse/OpenClaw-RL

OpenClaw-RL: Treine qualquer agente simplesmente conversando

Gen-Verse
⭐ 5,750 Python 👤 Gen-Verse Organization 🕐 Atualizado 2026-05-23 📅 Criado 2026-02-26
10
CalvinXKY/InfraTech

Compartilhamento de conhecimento de AI Infra e prática de código: PyTorch, vLLM/SGLang, introdução ao framework slime/vime ⚡️, aceleração de desempenho 🚀, fundamentos de modelos grandes 🧠, software e hardware de IA 🔧, etc.

CalvinXKY
⭐ 4,411 Jupyter Notebook 👤 CalvinXKY User 🕐 Atualizado 2026-09-20 📅 Criado 2025-11-14
11
ForceInjection/AI-fundamentals

Fundamentos de IA - arquitetura de GPU, programação CUDA, noções básicas de grandes modelos e conhecimentos relacionados a agentes de IA.

ForceInjection
⭐ 3,515 HTML 👤 ForceInjection Organization 🕐 Atualizado 2026-11-20 📅 Criado 2024-09-23
12
radixark/miles

Miles é um framework de aprendizado por reforço voltado para empresas para o pós-treinamento de LLM e VLM, derivado e co-evoluindo com slime.

radixark
⭐ 3,386 Python 👤 radixark Organization 🕐 Atualizado 2026-11-21 📅 Criado 2025-10-09
13
maitrix-org/llm-reasoners

Uma biblioteca para raciocínio avançado de grandes modelos de linguagem

maitrix-org
⭐ 2,344 Python 👤 maitrix-org Organization 🕐 Atualizado 2025-06-10 📅 Criado 2023-06-01
14
datawhalechina/zero-to-sglang

Curso oficial da SGLang x Datawhale sobre inferência de LLM: entenda a inferência, construa um mini-SGLang do zero, depois leia o código-fonte real do SGLang e faça seu primeiro PR. Disponível em inglês e chinês.

datawhalechina
⭐ 2,306 Python 👤 datawhalechina Organization 🕐 Atualizado 2026-11-17 📅 Criado 2026-08-27
15
SemiAnalysisAI/InferenceX

Plataforma de pesquisa em inferência de código aberto

SemiAnalysisAI
⭐ 2,074 Python 👤 SemiAnalysisAI Organization 🕐 Atualizado 2026-11-21 📅 Criado 2025-07-12
16
ovg-project/kvcached

Cache KV elástico virtualizado para compartilhamento dinâmico de GPU e além

ovg-project
⭐ 2,051 Python 👤 ovg-project Organization 🕐 Atualizado 2026-11-20 📅 Criado 2025-05-27
17
sgl-project/sglang-omni

Ambiente de execução de alto desempenho para servir sistemas de superinteligência interativos

sgl-project
⭐ 1,882 Python 👤 sgl-project Organization 🕐 Atualizado 2026-11-21 📅 Criado 2026-01-07
18
sybil-solutions/local-studio

Painel de controle para VLLM, Sglang, llama.cpp, exllamav3

sybil-solutions
⭐ 1,854 TypeScript 👤 sybil-solutions Organization 🕐 Atualizado 2026-10-26 📅 Criado 2025-12-17
19
intel/auto-round

Eficiência da quantização pós-treinamento, precisão da quantização com treinamento consciente

intel
⭐ 1,706 Python 👤 intel Organization 🕐 Atualizado 2026-11-21 📅 Criado 2024-01-04
21
OpenMOSS/MOSS-TTSD

Um modelo multilíngue para a síntese de diálogos longos com múltiplos falantes, com controle flexível dos falantes e clonagem de voz zero-shot

OpenMOSS
⭐ 1,423 Python 👤 OpenMOSS Organization 🕐 Atualizado 2026-09-06 📅 Criado 2025-06-17
22
XiaomiMiMo/MiMo-V2-Flash

MiMo-V2-Flash: Raciocínio, Codificação e Modelo Fundamental Agêntico Eficiente

XiaomiMiMo
⭐ 1,399 👤 XiaomiMiMo Organization 🕐 Atualizado 2026-10-29 📅 Criado 2025-12-15
24
ModelCloud/GPTQModel

Kit de ferramentas para quantização (compressão) de modelos LLM, com suporte à aceleração por hardware para Nvidia CUDA, AMD ROCm, Intel XPU, Tenstorrent, NPU Huawei Ascend e CPUs Intel/AMD/Apple via HF, vLLM e SGLang.

ModelCloud
⭐ 1,294 Python 👤 ModelCloud Organization 🕐 Atualizado 2026-11-21 📅 Criado 2024-06-17
25
sgl-project/SpecForge

Treine modelos de decodificação especulativa sem esforço e porte-os suavemente para o serviço SGLang.

sgl-project
⭐ 1,291 Python 👤 sgl-project Organization 🕐 Atualizado 2026-11-21 📅 Criado 2025-06-09
26
patchy631/time-to-first-token

Um roteiro de 10 semanas, com 30 minutos por dia, para servir e otimizar a inferência de LLMs. vLLM, SGLang, quantização, decodificação especulativa e benchmarking.

patchy631
⭐ 1,245 HTML 👤 patchy631 User 🕐 Atualizado 2026-08-14 📅 Criado 2026-08-02
27
eagle-hq/EAGLE-4

Código oficial de inferência do EAGLE-4

eagle-hq
⭐ 1,220 Python 👤 eagle-hq Organization 🕐 Atualizado 2026-11-13 📅 Criado 2026-10-20
28
OpenMOSS/MOVA

Um modelo de base que gera vídeo e áudio sincronizados em um único modelo

OpenMOSS
⭐ 1,151 Python 👤 OpenMOSS Organization 🕐 Atualizado 2026-11-21 📅 Criado 2026-01-28
29
Tencent-Hunyuan/UniRL

UniRL é uma estrutura para aprendizado por reforço de modelos multimodais unificados

Tencent-Hunyuan
⭐ 1,051 Python 👤 Tencent-Hunyuan Organization 🕐 Atualizado 2026-11-16 📅 Criado 2026-06-08
30
MoonshotAI/checkpoint-engine

Checkpoint-engine é um middleware simples para atualizar os pesos do modelo em mecanismos de inferência de LLMs

MoonshotAI
⭐ 1,026 Python 👤 MoonshotAI Organization 🕐 Atualizado 2026-10-22 📅 Criado 2025-09-08
31
alvarobartt/hf-mem

Um CLI para estimar os requisitos de memória de inferência para modelos Hugging Face, escrito em Python.

alvarobartt
⭐ 956 Python 👤 alvarobartt User 🕐 Atualizado 2026-11-20 📅 Criado 2025-12-22
32
XHToken/Spark-X2.6

Série de modelos abertos Spark-x2.6. Expandindo os limites das capacidades agênticas dos modelos no dispositivo

XHToken
⭐ 927 👤 XHToken Organization 🕐 Atualizado 2026-11-04 📅 Criado 2026-08-24
33
smg-project/smg

Gateway de LLM independente do mecanismo, desenvolvido em Rust. Compatibilidade total com as APIs da OpenAI e da Anthropic para vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini e muito mais. Pipeline gRPC pioneiro no setor, roteamento ciente do cache KV, histórico de conversas, cache de tokenização, Responses API, embeddings, plugins WASM, MCP e autenticação multi-tenant.

smg-project
⭐ 736 Rust 👤 smg-project Organization 🕐 Atualizado 2026-11-21 📅 Criado 2025-11-22
34
HuiResearch/FlashTTS

Com base em modelos como SparkTTS e OrpheusTTS, fornecemos serviços de síntese de fala chinesa de alta qualidade e clonagem de voz.

HuiResearch
⭐ 603 Python 👤 HuiResearch User 🕐 Atualizado 2025-05-18 📅 Criado 2025-03-13
35
MoonshotAI/K2-Vendor-Verifier

Verificar a precisão de todos os fornecedores de API Kimi K2

MoonshotAI
⭐ 602 Python 👤 MoonshotAI Organization 🕐 Atualizado 2026-02-14 📅 Criado 2025-09-09
36
spark-arena/sparkrun

sparkrun — inicie, gerencie e interrompa cargas de trabalho de inferência de LLM em sistemas NVIDIA DGX Spark. Suporte ao vivo: https://discord.com/invite/GH5kRgv6ZD

spark-arena
⭐ 567 Python 👤 spark-arena Organization 🕐 Atualizado 2026-11-17 📅 Criado 2026-02-16
37
MemTensor/MemT-1.0

Repositório oficial do MemT-1.0

MemTensor
⭐ 545 Python 👤 MemTensor Organization 🕐 Atualizado 2026-11-20 📅 Criado 2026-10-19
38
ome-projects/ome

Open Model Engine (OME) — operador Kubernetes para serving de LLMs, agendamento de GPUs e gerenciamento do ciclo de vida dos modelos. Compatível com SGLang, vLLM, TensorRT-LLM e Triton

ome-projects
⭐ 529 Go 👤 ome-projects Organization 🕐 Atualizado 2026-11-21 📅 Criado 2025-05-19

Perguntas Frequentes

1

Qual é o repositório de #sglang mais popular no GitHub?

O projeto de código aberto de #sglang mais bem classificado no GitHub é xorbitsai/inference, com 9,667 estrelas. Plataforma de inferência de código aberto para modelos de linguagem, visão, embeddings, reranking, imagem, áudio e vídeo. Implante vários mecanismos em hardware heterogêneo, de um laptop a um cluster distribuído. Disponibilize modelos por meio de APIs compatíveis com a OpenAI.

2

Quais linguagens de programação são mais usadas nos repositórios de #sglang?

Entre os projetos de #sglang mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, HTML, Rust, C++.

3

Como é calculada a classificação dos repositórios de #sglang?

Acompanhamos 38 repositórios ativos de código aberto marcados com #sglang (com mais de 500 estrelas), totalizando 109,680 estrelas e uma média de 2,886 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.