Git Stars Git Stars

#vllm Repository

Scopri 133 repository GitHub open source attivi contrassegnati con #vllm, che raccolgono un totale di 554,542 stelle (con una media di 4,169 stelle per progetto). Il progetto leader di questo argomento è earendil-works/pi, con 123,140 stelle.

133
Totale Repository
554,542
Totale stelle
4,169
Media Stelle/Repo

134 repository in totale

1
earendil-works/pi

Toolkit per agenti IA: API LLM unificata, ciclo dell'agente, TUI, CLI per agenti di programmazione

earendil-works
⭐ 123,140 TypeScript 👤 earendil-works Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2025-08-09
2
deepseek-ai/DeepSeek-Coder

DeepSeek Coder: Lascia che il codice si scriva da sé

deepseek-ai
⭐ 24,365 Python 👤 deepseek-ai Organization 🕐 Aggiornato 2025-11-11 📅 Creato 2023-10-20
3
deepseek-ai/DeepSeek-OCR

Contesti di compressione ottica

deepseek-ai
⭐ 24,180 Python 👤 deepseek-ai Organization 🕐 Aggiornato 2026-01-27 📅 Creato 2025-10-17
4
datalab-to/surya

OCR, analisi del layout, ordine di lettura, riconoscimento tabelle in oltre 90 lingue

datalab-to
⭐ 21,608 Python 👤 datalab-to Organization 🕐 Aggiornato 2026-11-13 📅 Creato 2024-01-10
5
modelscope/FunASR

Kit di strumenti di riconoscimento vocale open source per training, inferenza, ASR in streaming, VAD, punteggiatura, pipeline di diarizzazione dei parlanti e servizio compatibile con OpenAI/MCP.

modelscope
⭐ 21,091 Python 👤 modelscope Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2022-11-24
6
meta-llama/llama-cookbook

Benvenuti nel Llama Cookbook! Questa è la vostra guida di riferimento per la creazione con Llama: Introduzione all'inferenza, al fine-tuning e al RAG. Vi mostriamo anche come risolvere problemi end-to-end utilizzando la famiglia di modelli Llama e utilizzandoli su vari servizi provider.

meta-llama
⭐ 18,595 Jupyter Notebook 👤 meta-llama Organization 🕐 Aggiornato 2026-05-19 📅 Creato 2023-07-17
7
budtmo/docker-android

Soluzione Android in Docker con supporto per noVNC, registrazione video, server MCP e agente IA

budtmo
⭐ 16,184 Python 👤 budtmo User 🕐 Aggiornato 2026-11-19 📅 Creato 2016-12-22
8
Orchestra-Research/AI-Research-SKILLs

Libreria open-source completa di competenze di ricerca e ingegneria AI per qualsiasi modello AI. Impacchetta queste competenze e il tuo agente claude code/codex/gemini sarà un agente di ricerca AI a piena potenza. Mantenuto da Orchestra Research.

Orchestra-Research
⭐ 14,716 TeX 👤 Orchestra-Research Organization 🕐 Aggiornato 2026-10-11 📅 Creato 2025-11-03
9
Jiayi-Pan/TinyZero

Riproduzione minima di DeepSeek R1-Zero

Jiayi-Pan
⭐ 13,259 Python 👤 Jiayi-Pan User 🕐 Aggiornato 2026-02-27 📅 Creato 2025-01-21
10
halfrost/Halfrost-Field

✍🏻 Analisi approfondite del codice sorgente, progettazione di sistemi e blog di ingegneria | Halfrost-Field: Note di analisi del codice sorgente, progettazione di sistemi e pratica ingegneristica

halfrost
⭐ 13,259 Go 👤 halfrost User 🕐 Aggiornato 2026-11-10 📅 Creato 2017-04-02
11
datalab-to/chandra

Modello OCR che gestisce tabelle complesse, moduli e scrittura a mano con layout completo.

datalab-to
⭐ 12,741 Python 👤 datalab-to Organization 🕐 Aggiornato 2026-11-16 📅 Creato 2025-10-08
12
LMCache/LMCache

LMCache: Potenzia il tuo LLM con il livello di cache KV più veloce

LMCache
⭐ 12,405 Python 👤 LMCache Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2024-05-28
13
OpenRLHF/OpenRLHF

Un framework RL agentico facile da usare, scalabile e ad alte prestazioni basato su Ray (PPO & DAPO & REINFORCE++ & VLM & TIS & vLLM & Ray & Async RL)

OpenRLHF
⭐ 10,173 Python 👤 OpenRLHF Organization 🕐 Aggiornato 2026-11-03 📅 Creato 2023-07-30
14
xorbitsai/inference

Piattaforma open source per l’inferenza di modelli linguistici, visivi, di embedding, reranking, immagini, audio e video. Distribuisci più motori su hardware eterogeneo, da un laptop a un cluster distribuito. Fornisci modelli tramite API compatibili con OpenAI.

xorbitsai
⭐ 9,667 Python 👤 xorbitsai Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2023-06-14
15
ai-dynamo/dynamo

Un framework di inferenza distribuita su larga scala per data center

ai-dynamo
⭐ 8,542 Rust 👤 ai-dynamo Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2025-03-03
16
kvcache-ai/Mooncake

Mooncake è la piattaforma di serving per Kimi, un servizio LLM leader fornito da Moonshot AI.

kvcache-ai
⭐ 7,100 C++ 👤 kvcache-ai Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2024-06-25
17
simplescaling/s1

s1: Scalatura semplice al momento dell'esecuzione

simplescaling
⭐ 6,656 Python 👤 simplescaling Organization 🕐 Aggiornato 2025-06-25 📅 Creato 2025-02-01
18
vllm-project/semantic-router

Un livello decisionale aperto e programmabile per modelli e calcolo.

vllm-project
⭐ 6,514 Go 👤 vllm-project Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2025-08-26
19
kserve/kserve

Piattaforma di inferenza AI generativa e predittiva distribuita standardizzata per deployment scalabile e multi-framework su Kubernetes

kserve
⭐ 6,253 Go 👤 kserve Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2019-03-27
20
gpustack/gpustack

Un gestore di cluster GPU per il serving di modelli AI ad alte prestazioni (vLLM, SGLang) e istanze GPU on-demand accessibili via SSH.

gpustack
⭐ 6,097 Python 👤 gpustack Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2024-05-11
21
skyzh/tiny-llm

Impara i sistemi di inferenza degli LLM su Apple Silicon per ingegneri di sistema: costruisci un piccolo vLLM + Qwen

skyzh
⭐ 5,801 Python 👤 skyzh User 🕐 Aggiornato 2026-11-16 📅 Creato 2025-04-19
22
OpenBMB/UltraRAG

Un framework MCP low-code per costruire pipeline RAG complesse e innovative

OpenBMB
⭐ 5,748 Python 👤 OpenBMB Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2025-01-16
23
PeterGriffinJin/Search-R1

Search-R1: Un framework di training RL efficiente e scalabile per il ragionamento e la chiamata di motori di ricerca basato su LLM intercalati con veRL

PeterGriffinJin
⭐ 5,575 Python 👤 PeterGriffinJin User 🕐 Aggiornato 2025-11-13 📅 Creato 2025-02-28
24
xlite-dev/Awesome-LLM-Inference

📚Un elenco curato di Awesome LLM/VLM Inference Papers con codici: Flash-Attention, Paged-Attention, WINT8/4, Parallelism, ecc.🎉

xlite-dev
⭐ 5,565 Python 👤 xlite-dev Organization 🕐 Aggiornato 2026-10-20 📅 Creato 2023-08-27
25
katanaml/sparrow

Estrazione di dati strutturati, chiamata di istruzioni e flussi di lavoro agentici con ML, LLM e Vision LLM

katanaml
⭐ 5,234 Python 👤 katanaml Organization 🕐 Aggiornato 2026-11-17 📅 Creato 2022-01-08
26
PrimeIntellect-ai/verifiers

La nostra libreria per ambienti RL + valutazioni

PrimeIntellect-ai
⭐ 4,797 Python 👤 PrimeIntellect-ai Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2025-01-22
28
CalvinXKY/InfraTech

Condivisione di conoscenze AI Infra e pratica di codice: PyTorch, vLLM/SGLang, introduzione al framework slime/vime ⚡️, accelerazione delle prestazioni 🚀, basi dei modelli grandi 🧠, software e hardware AI 🔧, ecc.

CalvinXKY
⭐ 4,411 Jupyter Notebook 👤 CalvinXKY User 🕐 Aggiornato 2026-09-20 📅 Creato 2025-11-14
29
OSU-NLP-Group/HippoRAG

[NeurIPS'24] HippoRAG è un nuovo framework RAG ispirato alla memoria a lungo termine umana che consente agli LLM di integrare continuamente la conoscenza attraverso documenti esterni. RAG + Knowledge Graph + Personalized PageRank.

OSU-NLP-Group
⭐ 4,138 Python 👤 OSU-NLP-Group Organization 🕐 Aggiornato 2026-10-06 📅 Creato 2024-05-23
30
lemony-ai/cascadeflow

Runtime a cascata per agenti AI. Ottimizza costi, latenza, qualità e decisioni di policy all'interno del ciclo dell'agente.

lemony-ai
⭐ 3,922 Python 👤 lemony-ai Organization 🕐 Aggiornato 2026-09-25 📅 Creato 2025-10-24
31
PaddlePaddle/FastDeploy

Toolkit ad alte prestazioni per inferenza e deployment di LLM e VLM basato su PaddlePaddle

PaddlePaddle
⭐ 3,722 Python 👤 PaddlePaddle Organization 🕐 Aggiornato 2026-09-24 📅 Creato 2022-06-27
32
ForceInjection/AI-fundamentals

Fondamenti di IA - architettura GPU, programmazione CUDA, basi dei grandi modelli e conoscenze relative agli agenti IA.

ForceInjection
⭐ 3,515 HTML 👤 ForceInjection Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2024-09-23
33
vllm-project/vllm-ascend

Plugin hardware per vLLM su Huawei Ascend mantenuto dalla comunità

vllm-project
⭐ 3,128 Python 👤 vllm-project Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2025-01-29
34
containers/ramalama

RamaLama è uno strumento di sviluppo open-source che semplifica la distribuzione locale di modelli AI da qualsiasi origine e ne facilita l'utilizzo per l'inferenza in produzione, il tutto attraverso il familiare linguaggio dei container.

containers
⭐ 3,116 Python 👤 containers Organization 🕐 Aggiornato 2026-11-14 📅 Creato 2024-07-24
35
syv-ai/HyperQwen

Esegui rapidamente modelli Qwen di grandi dimensioni sulle GPU che possiedi davvero. Qwen3.8-27B su una singola scheda da 24 GB con vLLM: 127 tok/s per un singolo utente (381 quando la risposta cita il prompt), circa 1.035 tok/s con 64 richieste simultanee e un contesto di 150k–262k. Patch per vLLM, pipeline di requantizzazione e benchmark.

syv-ai
⭐ 2,778 Python 👤 syv-ai Organization 🕐 Aggiornato 2026-11-10 📅 Creato 2026-08-15
36
vllm-project/production-stack

Il sistema di riferimento di vLLM per il deployment su scala cluster nativo K8S con ottimizzazione delle prestazioni guidata dalla community

vllm-project
⭐ 2,729 Python 👤 vllm-project Organization 🕐 Aggiornato 2026-11-07 📅 Creato 2025-01-21
37
Unakar/Logic-RL

Riproduci R1 Zero sul puzzle logico

Unakar
⭐ 2,451 Python 👤 Unakar User 🕐 Aggiornato 2025-03-20 📅 Creato 2025-02-02
38
zai-org/CodeGeeX4

CodeGeeX4-ALL-9B, un modello versatile per tutti gli scenari di sviluppo di software AI, tra cui completamento del codice, interprete di codice, ricerca web, chiamata di funzioni, domande e risposte a livello di repository e molto altro.

zai-org
⭐ 2,347 Python 👤 zai-org Organization 🕐 Aggiornato 2024-08-25 📅 Creato 2024-07-03
39
PrimeIntellect-ai/prime-rl

Addestramento RL Agentico su Larga Scala

PrimeIntellect-ai
⭐ 2,268 Python 👤 PrimeIntellect-ai Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2025-02-18
40
cfregly/ai-performance-engineering

Codice, laboratori e risorse per O'Reilly AI Systems Performance Engineering: ottimizzazione GPU, addestramento distribuito, scalabilità dell'inferenza e ottimizzazione full-stack.

cfregly
⭐ 2,233 Python 👤 cfregly User 🕐 Aggiornato 2026-11-19 📅 Creato 2025-04-21
41
Tencent-Hunyuan/HunyuanOCR

HunyuanOCR-1.5: Rendere i VLM OCR leggeri più veloci e migliori

Tencent-Hunyuan
⭐ 2,091 Python 👤 Tencent-Hunyuan Organization 🕐 Aggiornato 2026-09-24 📅 Creato 2025-11-18
42
SemiAnalysisAI/InferenceX

Piattaforma di ricerca sull’inferenza open source

SemiAnalysisAI
⭐ 2,074 Python 👤 SemiAnalysisAI Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2025-07-12
43
ovg-project/kvcached

Cache KV elastica virtualizzata per la condivisione dinamica della GPU e oltre

ovg-project
⭐ 2,051 Python 👤 ovg-project Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2025-05-27
45
noamgat/lm-format-enforcer

Imporre il formato di output (JSON Schema, Regex, ecc.) di un modello linguistico

noamgat
⭐ 2,041 Python 👤 noamgat User 🕐 Aggiornato 2026-04-04 📅 Creato 2023-09-21
46
vllm-project/vllm-metal

Plugin hardware mantenuto dalla comunità per vLLM su Apple Silicon

vllm-project
⭐ 2,010 Python 👤 vllm-project Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2025-12-12
47
LeapLabTHU/Absolute-Zero-Reasoner

Repository Ufficiale di Absolute Zero Reasoner

LeapLabTHU
⭐ 1,893 Python 👤 LeapLabTHU User 🕐 Aggiornato 2025-08-24 📅 Creato 2025-05-02
48
sybil-solutions/local-studio

Pannello di controllo per VLLM, Sglang, llama.cpp, exllamav3

sybil-solutions
⭐ 1,854 TypeScript 👤 sybil-solutions Organization 🕐 Aggiornato 2026-10-26 📅 Creato 2025-12-17
49
brevdev/launchables

Raccolta di guide per notebook create dal team di Brev.dev!

brevdev
⭐ 1,819 Jupyter Notebook 👤 brevdev Organization 🕐 Aggiornato 2026-07-21 📅 Creato 2023-08-14
50
BytedTsinghua-SIA/DAPO

Un sistema RL open-source da ByteDance Seed e Tsinghua AIR

BytedTsinghua-SIA
⭐ 1,814 Python 👤 BytedTsinghua-SIA Organization 🕐 Aggiornato 2025-05-11 📅 Creato 2025-03-17

Domande frequenti

1

Qual è il repository #vllm più popolare su GitHub?

Il progetto open source #vllm più alto in classifica su GitHub è earendil-works/pi, con 123,140 stelle. Toolkit per agenti IA: API LLM unificata, ciclo dell'agente, TUI, CLI per agenti di programmazione

2

Quali linguaggi di programmazione sono più utilizzati nei repository #vllm?

Tra i progetti #vllm più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, Jupyter Notebook, Go, TypeScript.

3

Come viene calcolata la classifica dei repository #vllm?

Monitoriamo 133 repository open source attivi contrassegnati con #vllm (500+ stelle), per un totale di 554,542 stelle e una media di 4,169 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.