Git Stars Git Stars

#sglang Repository

Scopri 38 repository GitHub open source attivi contrassegnati con #sglang, che raccolgono un totale di 109,680 stelle (con una media di 2,886 stelle per progetto). Il progetto leader di questo argomento è xorbitsai/inference, con 9,667 stelle.

38
Totale Repository
109,680
Totale stelle
2,886
Media Stelle/Repo

38 repository in totale

1
xorbitsai/inference

Piattaforma open source per l’inferenza di modelli linguistici, visivi, di embedding, reranking, immagini, audio e video. Distribuisci più motori su hardware eterogeneo, da un laptop a un cluster distribuito. Fornisci modelli tramite API compatibili con OpenAI.

xorbitsai
⭐ 9,667 Python 👤 xorbitsai Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2023-06-14
2
THUDM/slime

slime è un framework per l’addestramento di LLM pensato per scalare l’apprendimento per rinforzo.

THUDM
⭐ 8,856 Python 👤 THUDM Organization 🕐 Aggiornato 2026-11-05 📅 Creato 2025-06-18
3
ai-dynamo/dynamo

Un framework di inferenza distribuita su larga scala per data center

ai-dynamo
⭐ 8,542 Rust 👤 ai-dynamo Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2025-03-03
5
kvcache-ai/Mooncake

Mooncake è la piattaforma di serving per Kimi, un servizio LLM leader fornito da Moonshot AI.

kvcache-ai
⭐ 7,100 C++ 👤 kvcache-ai Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2024-06-25
6
z-lab/dflash

DFlash: Diffusione di blocchi per la decodifica speculativa Flash

z-lab
⭐ 6,254 Python 👤 z-lab Organization 🕐 Aggiornato 2026-08-18 📅 Creato 2026-01-04
7
gpustack/gpustack

Un gestore di cluster GPU per il serving di modelli AI ad alte prestazioni (vLLM, SGLang) e istanze GPU on-demand accessibili via SSH.

gpustack
⭐ 6,097 Python 👤 gpustack Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2024-05-11
8
Gen-Verse/OpenClaw-RL

OpenClaw-RL: Allena qualsiasi agente semplicemente parlando

Gen-Verse
⭐ 5,750 Python 👤 Gen-Verse Organization 🕐 Aggiornato 2026-05-23 📅 Creato 2026-02-26
10
CalvinXKY/InfraTech

Condivisione di conoscenze AI Infra e pratica di codice: PyTorch, vLLM/SGLang, introduzione al framework slime/vime ⚡️, accelerazione delle prestazioni 🚀, basi dei modelli grandi 🧠, software e hardware AI 🔧, ecc.

CalvinXKY
⭐ 4,411 Jupyter Notebook 👤 CalvinXKY User 🕐 Aggiornato 2026-09-20 📅 Creato 2025-11-14
11
ForceInjection/AI-fundamentals

Fondamenti di IA - architettura GPU, programmazione CUDA, basi dei grandi modelli e conoscenze relative agli agenti IA.

ForceInjection
⭐ 3,515 HTML 👤 ForceInjection Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2024-09-23
12
radixark/miles

Miles è un framework di reinforcement learning orientato alle imprese per la post-allenamento di LLM e VLM, derivato da e co-evolvendosi con slime.

radixark
⭐ 3,386 Python 👤 radixark Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2025-10-09
13
maitrix-org/llm-reasoners

Una libreria per il ragionamento avanzato di modelli linguistici di grandi dimensioni

maitrix-org
⭐ 2,344 Python 👤 maitrix-org Organization 🕐 Aggiornato 2025-06-10 📅 Creato 2023-06-01
14
datawhalechina/zero-to-sglang

Corso ufficiale SGLang x Datawhale sull’inferenza degli LLM: comprendi l’inferenza, costruisci un mini-SGLang da zero, poi leggi il vero codice sorgente di SGLang e invia la tua prima PR. Disponibile in inglese e cinese.

datawhalechina
⭐ 2,306 Python 👤 datawhalechina Organization 🕐 Aggiornato 2026-11-17 📅 Creato 2026-08-27
15
SemiAnalysisAI/InferenceX

Piattaforma di ricerca sull’inferenza open source

SemiAnalysisAI
⭐ 2,074 Python 👤 SemiAnalysisAI Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2025-07-12
16
ovg-project/kvcached

Cache KV elastica virtualizzata per la condivisione dinamica della GPU e oltre

ovg-project
⭐ 2,051 Python 👤 ovg-project Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2025-05-27
17
sgl-project/sglang-omni

Runtime ad alte prestazioni per l’erogazione di sistemi di superintelligenza interattivi

sgl-project
⭐ 1,882 Python 👤 sgl-project Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2026-01-07
18
sybil-solutions/local-studio

Pannello di controllo per VLLM, Sglang, llama.cpp, exllamav3

sybil-solutions
⭐ 1,854 TypeScript 👤 sybil-solutions Organization 🕐 Aggiornato 2026-10-26 📅 Creato 2025-12-17
19
intel/auto-round

Efficienza della quantizzazione post-training, accuratezza della quantizzazione con addestramento consapevole

intel
⭐ 1,706 Python 👤 intel Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2024-01-04
21
OpenMOSS/MOSS-TTSD

Un modello multilingue per la sintesi di dialoghi a più parlanti e di lunga durata, con controllo flessibile dei parlanti e clonazione vocale zero-shot

OpenMOSS
⭐ 1,423 Python 👤 OpenMOSS Organization 🕐 Aggiornato 2026-09-06 📅 Creato 2025-06-17
22
XiaomiMiMo/MiMo-V2-Flash

MiMo-V2-Flash: Ragionamento efficiente, codifica e modello di base agentico

XiaomiMiMo
⭐ 1,399 👤 XiaomiMiMo Organization 🕐 Aggiornato 2026-10-29 📅 Creato 2025-12-15
24
ModelCloud/GPTQModel

Toolkit per la quantizzazione (compressione) di modelli LLM, con supporto all’accelerazione hardware per Nvidia CUDA, AMD ROCm, Intel XPU, Tenstorrent, NPU Huawei Ascend e CPU Intel/AMD/Apple tramite HF, vLLM e SGLang.

ModelCloud
⭐ 1,294 Python 👤 ModelCloud Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2024-06-17
25
sgl-project/SpecForge

Addestra modelli di decodifica speculativa senza sforzo e portali agevolmente sul servizio SGLang.

sgl-project
⭐ 1,291 Python 👤 sgl-project Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2025-06-09
26
patchy631/time-to-first-token

Una roadmap di 10 settimane, dedicando 30 minuti al giorno, per il serving e l’ottimizzazione dell’inferenza degli LLM. vLLM, SGLang, quantizzazione, decodifica speculativa e benchmarking.

patchy631
⭐ 1,245 HTML 👤 patchy631 User 🕐 Aggiornato 2026-08-14 📅 Creato 2026-08-02
27
eagle-hq/EAGLE-4

Codice ufficiale di inferenza di EAGLE-4

eagle-hq
⭐ 1,220 Python 👤 eagle-hq Organization 🕐 Aggiornato 2026-11-13 📅 Creato 2026-10-20
28
OpenMOSS/MOVA

Un modello di base che genera video e audio sincronizzati in un unico modello

OpenMOSS
⭐ 1,151 Python 👤 OpenMOSS Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2026-01-28
29
Tencent-Hunyuan/UniRL

UniRL è un framework per l'apprendimento per rinforzo di modelli multimodali unificati

Tencent-Hunyuan
⭐ 1,051 Python 👤 Tencent-Hunyuan Organization 🕐 Aggiornato 2026-11-16 📅 Creato 2026-06-08
30
MoonshotAI/checkpoint-engine

Checkpoint-engine è un semplice middleware per aggiornare i pesi del modello nei motori di inferenza LLM

MoonshotAI
⭐ 1,026 Python 👤 MoonshotAI Organization 🕐 Aggiornato 2026-10-22 📅 Creato 2025-09-08
31
alvarobartt/hf-mem

Un CLI per stimare i requisiti di memoria di inferenza per i modelli Hugging Face, scritto in Python.

alvarobartt
⭐ 956 Python 👤 alvarobartt User 🕐 Aggiornato 2026-11-20 📅 Creato 2025-12-22
32
XHToken/Spark-X2.6

Serie di modelli open Spark-x2.6. Spingere oltre i limiti delle capacità agentiche dei modelli on-device

XHToken
⭐ 927 👤 XHToken Organization 🕐 Aggiornato 2026-11-04 📅 Creato 2026-08-24
33
smg-project/smg

Gateway LLM indipendente dal motore, sviluppato in Rust. Compatibilità completa con le API di OpenAI e Anthropic su vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini e altro ancora. Pipeline gRPC prima nel settore, routing consapevole della cache KV, cronologia delle chat, caching della tokenizzazione, Responses API, embedding, plugin WASM, MCP e autenticazione multi-tenant.

smg-project
⭐ 736 Rust 👤 smg-project Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2025-11-22
34
HuiResearch/FlashTTS

Fornisce sintesi vocale cinese di alta qualità e clonazione vocale basata su modelli come SparkTTS, OrpheusTTS, ecc.

HuiResearch
⭐ 603 Python 👤 HuiResearch User 🕐 Aggiornato 2025-05-18 📅 Creato 2025-03-13
35
MoonshotAI/K2-Vendor-Verifier

Verificare la precisione di tutti i fornitori API Kimi K2

MoonshotAI
⭐ 602 Python 👤 MoonshotAI Organization 🕐 Aggiornato 2026-02-14 📅 Creato 2025-09-09
36
spark-arena/sparkrun

sparkrun: avvia, gestisci e arresta i carichi di lavoro di inferenza LLM sui sistemi NVIDIA DGX Spark. Supporto in tempo reale: https://discord.com/invite/GH5kRgv6ZD

spark-arena
⭐ 567 Python 👤 spark-arena Organization 🕐 Aggiornato 2026-11-17 📅 Creato 2026-02-16
37
MemTensor/MemT-1.0

Repository ufficiale di MemT-1.0

MemTensor
⭐ 545 Python 👤 MemTensor Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2026-10-19
38
ome-projects/ome

Open Model Engine (OME) — operatore Kubernetes per il serving degli LLM, la pianificazione delle GPU e la gestione del ciclo di vita dei modelli. Compatibile con SGLang, vLLM, TensorRT-LLM e Triton

ome-projects
⭐ 529 Go 👤 ome-projects Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2025-05-19

Domande frequenti

1

Qual è il repository #sglang più popolare su GitHub?

Il progetto open source #sglang più alto in classifica su GitHub è xorbitsai/inference, con 9,667 stelle. Piattaforma open source per l’inferenza di modelli linguistici, visivi, di embedding, reranking, immagini, audio e video. Distribuisci più motori su hardware eterogeneo, da un laptop a un cluster distribuito. Fornisci modelli tramite API compatibili con OpenAI.

2

Quali linguaggi di programmazione sono più utilizzati nei repository #sglang?

Tra i progetti #sglang più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, HTML, Rust, C++.

3

Come viene calcolata la classifica dei repository #sglang?

Monitoriamo 38 repository open source attivi contrassegnati con #sglang (500+ stelle), per un totale di 109,680 stelle e una media di 2,886 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.