Git Stars Git Stars

#vllm Repositories

Entdecke 133 aktive Open-Source-GitHub-Repositories, die mit #vllm getaggt sind und insgesamt 554,542 Sterne gesammelt haben (durchschnittlich 4,169 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist earendil-works/pi mit 123,140 Sternen.

133
Gesamtzahl der Repositories
554,542
Gesamtanzahl der Sterne
4,169
Durchschnittliche Sterne/Repo

Insgesamt 134 Repositories

1
earendil-works/pi

KI-Agenten-Toolkit: vereinheitlichte LLM-API, Agentenschleife, TUI, Coding-Agent-CLI

earendil-works
⭐ 123,140 TypeScript 👤 earendil-works Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-08-09
2
deepseek-ai/DeepSeek-Coder

DeepSeek Coder: Lass den Code sich selbst schreiben

deepseek-ai
⭐ 24,365 Python 👤 deepseek-ai Organization 🕐 Aktualisiert 2025-11-11 📅 Erstellt 2023-10-20
3
deepseek-ai/DeepSeek-OCR

Kontexte optische Kompression

deepseek-ai
⭐ 24,180 Python 👤 deepseek-ai Organization 🕐 Aktualisiert 2026-01-27 📅 Erstellt 2025-10-17
4
datalab-to/surya

OCR, Layoutanalyse, Lesereihenfolge, Tabellenerkennung in über 90 Sprachen

datalab-to
⭐ 21,608 Python 👤 datalab-to Organization 🕐 Aktualisiert 2026-11-13 📅 Erstellt 2024-01-10
5
modelscope/FunASR

Open-Source-Spracherkennungs-Toolkit für Training, Inferenz, Streaming-ASR, VAD, Interpunktion, Sprecherdiarisierungs-Pipelines und OpenAI-kompatiblen/MCP-Service.

modelscope
⭐ 21,091 Python 👤 modelscope Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2022-11-24
6
meta-llama/llama-cookbook

Willkommen im Llama-Kochbuch! Dies ist Ihr Leitfaden für den Einstieg in Llama: Erste Schritte mit Inferenz, Fine-Tuning, RAG. Wir zeigen Ihnen auch, wie Sie End-to-End-Probleme mit der Llama-Modellfamilie lösen und sie auf verschiedenen Anbieterdiensten einsetzen.

meta-llama
⭐ 18,595 Jupyter Notebook 👤 meta-llama Organization 🕐 Aktualisiert 2026-05-19 📅 Erstellt 2023-07-17
7
budtmo/docker-android

Android-in-Docker-Lösung mit noVNC-Unterstützung, Videoaufzeichnung, MCP-Server und KI-Agent

budtmo
⭐ 16,184 Python 👤 budtmo User 🕐 Aktualisiert 2026-11-19 📅 Erstellt 2016-12-22
8
Orchestra-Research/AI-Research-SKILLs

Umfassende Open-Source-Bibliothek für KI-Forschungs- und Ingenieursfähigkeiten für jedes KI-Modell. Packen Sie die Fähigkeiten ein, und Ihr Claude-Code-/Codex-/Gemini-Agent wird zu einem KI-Forschungsagenten mit voller Leistung. Gepflegt von Orchestra Research.

Orchestra-Research
⭐ 14,716 TeX 👤 Orchestra-Research Organization 🕐 Aktualisiert 2026-10-11 📅 Erstellt 2025-11-03
9
Jiayi-Pan/TinyZero

Minimale Reproduktion von DeepSeek R1-Zero

Jiayi-Pan
⭐ 13,259 Python 👤 Jiayi-Pan User 🕐 Aktualisiert 2026-02-27 📅 Erstellt 2025-01-21
10
halfrost/Halfrost-Field

✍🏻 Quellcode-Tiefenanalysen, Systemdesign und Engineering-Blogs | Halfrost-Field: Notizen zur Quellcode-Analyse, Systemdesign und Ingenieurspraxis

halfrost
⭐ 13,259 Go 👤 halfrost User 🕐 Aktualisiert 2026-11-10 📅 Erstellt 2017-04-02
11
datalab-to/chandra

OCR-Modell, das komplexe Tabellen, Formulare und Handschriften mit vollständigem Layout verarbeitet.

datalab-to
⭐ 12,741 Python 👤 datalab-to Organization 🕐 Aktualisiert 2026-11-16 📅 Erstellt 2025-10-08
12
LMCache/LMCache

LMCache: Beschleunigen Sie Ihr LLM mit der schnellsten KV-Cache-Schicht

LMCache
⭐ 12,405 Python 👤 LMCache Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2024-05-28
13
OpenRLHF/OpenRLHF

Ein einfach zu bedienendes, skalierbares und hochperformantes agentisches RL-Framework basierend auf Ray (PPO & DAPO & REINFORCE++ & VLM & TIS & vLLM & Ray & Async RL)

OpenRLHF
⭐ 10,173 Python 👤 OpenRLHF Organization 🕐 Aktualisiert 2026-11-03 📅 Erstellt 2023-07-30
14
xorbitsai/inference

Open-Source-Inferenzplattform für Sprach-, Vision-, Embedding-, Reranking-, Bild-, Audio- und Videomodelle. Stellen Sie mehrere Engines auf heterogener Hardware bereit – vom Laptop bis zum verteilten Cluster. Stellen Sie Modelle über OpenAI-kompatible APIs bereit.

xorbitsai
⭐ 9,667 Python 👤 xorbitsai Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2023-06-14
15
ai-dynamo/dynamo

Ein Framework für verteiltes Inferenz-Serving im Rechenzentrum-Maßstab

ai-dynamo
⭐ 8,542 Rust 👤 ai-dynamo Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-03-03
16
kvcache-ai/Mooncake

Mooncake ist die Serving-Plattform für Kimi, einen führenden LLM-Service, der von Moonshot AI bereitgestellt wird.

kvcache-ai
⭐ 7,100 C++ 👤 kvcache-ai Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2024-06-25
17
simplescaling/s1

s1: Einfache Laufzeitskalierung

simplescaling
⭐ 6,656 Python 👤 simplescaling Organization 🕐 Aktualisiert 2025-06-25 📅 Erstellt 2025-02-01
18
vllm-project/semantic-router

Eine offene, programmierbare Entscheidungsebene für Modelle und Rechenleistung.

vllm-project
⭐ 6,514 Go 👤 vllm-project Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-08-26
19
kserve/kserve

Standardisierte verteilte generative und prädiktive KI-Inferenzplattform für skalierbare, Multi-Framework-Bereitstellung auf Kubernetes

kserve
⭐ 6,253 Go 👤 kserve Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2019-03-27
20
gpustack/gpustack

Ein GPU-Cluster-Manager für hochleistungsfähiges KI-Modell-Serving (vLLM, SGLang) und bedarfsgesteuerte, per SSH zugängliche GPU-Instanzen.

gpustack
⭐ 6,097 Python 👤 gpustack Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2024-05-11
21
skyzh/tiny-llm

LLM-Inferenzsysteme auf Apple Silicon für Systemingenieure kennenlernen: ein kleines vLLM + Qwen erstellen

skyzh
⭐ 5,801 Python 👤 skyzh User 🕐 Aktualisiert 2026-11-16 📅 Erstellt 2025-04-19
22
OpenBMB/UltraRAG

Ein Low-Code-MCP-Framework zum Aufbau komplexer und innovativer RAG-Pipelines

OpenBMB
⭐ 5,748 Python 👤 OpenBMB Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-01-16
23
PeterGriffinJin/Search-R1

Search-R1: Ein effizientes, skalierbares RL-Trainingsframework für Reasoning & Suchmaschinenaufrufe, das auf veRL basierende LLMs interleaved nutzt

PeterGriffinJin
⭐ 5,575 Python 👤 PeterGriffinJin User 🕐 Aktualisiert 2025-11-13 📅 Erstellt 2025-02-28
24
xlite-dev/Awesome-LLM-Inference

📚Eine kuratierte Liste von Awesome LLM/VLM-Inferenz-Papers mit Codes: Flash-Attention, Paged-Attention, WINT8/4, Parallelism usw.🎉

xlite-dev
⭐ 5,565 Python 👤 xlite-dev Organization 🕐 Aktualisiert 2026-10-20 📅 Erstellt 2023-08-27
25
katanaml/sparrow

Strukturierte Datenextraktion, Anweisungsaufruf und agentische Workflows mit ML, LLM und Vision LLM

katanaml
⭐ 5,234 Python 👤 katanaml Organization 🕐 Aktualisiert 2026-11-17 📅 Erstellt 2022-01-08
26
PrimeIntellect-ai/verifiers

Unsere Bibliothek für RL-Umgebungen + Evals

PrimeIntellect-ai
⭐ 4,797 Python 👤 PrimeIntellect-ai Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-01-22
28
CalvinXKY/InfraTech

Teilen von AI-Infrastrukturwissen und Code-Praxis: PyTorch, vLLM/SGLang, Einführung in das slime/vime-Framework ⚡️, Leistungsbeschleunigung 🚀, Grundlagen großer Modelle 🧠, KI-Software und -Hardware 🔧 usw.

CalvinXKY
⭐ 4,411 Jupyter Notebook 👤 CalvinXKY User 🕐 Aktualisiert 2026-09-20 📅 Erstellt 2025-11-14
29
OSU-NLP-Group/HippoRAG

[NeurIPS'24] HippoRAG ist ein neuartiges RAG-Framework, das von der menschlichen Langzeitgedächtnis inspiriert ist und LLMs ermöglicht, Wissen über externe Dokumente kontinuierlich zu integrieren. RAG + Wissensgraphen + Personalized PageRank.

OSU-NLP-Group
⭐ 4,138 Python 👤 OSU-NLP-Group Organization 🕐 Aktualisiert 2026-10-06 📅 Erstellt 2024-05-23
30
lemony-ai/cascadeflow

Kaskadierender Runtime für KI-Agenten. Optimieren Sie Kosten, Latenz, Qualität und Richtlinienentscheidungen innerhalb der Agenten-Schleife.

lemony-ai
⭐ 3,922 Python 👤 lemony-ai Organization 🕐 Aktualisiert 2026-09-25 📅 Erstellt 2025-10-24
31
PaddlePaddle/FastDeploy

Leistungsstarkes Inference- und Deployment-Toolkit für LLMs und VLMs auf Basis von PaddlePaddle

PaddlePaddle
⭐ 3,722 Python 👤 PaddlePaddle Organization 🕐 Aktualisiert 2026-09-24 📅 Erstellt 2022-06-27
32
ForceInjection/AI-fundamentals

KI-Grundlagen – GPU-Architektur, CUDA-Programmierung, Grundlagen großer Sprachmodelle und Wissen zu KI-Agenten.

ForceInjection
⭐ 3,515 HTML 👤 ForceInjection Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2024-09-23
33
vllm-project/vllm-ascend

Von der Community gepflegtes Hardware-Plugin für vLLM auf Huawei Ascend

vllm-project
⭐ 3,128 Python 👤 vllm-project Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-01-29
34
containers/ramalama

RamaLama ist ein Open-Source-Entwicklertool, das das lokale Bereitstellen von KI-Modellen aus beliebigen Quellen vereinfacht und deren Verwendung für Inferenzen in der Produktion erleichtert, und das alles über die vertraute Sprache von Containern.

containers
⭐ 3,116 Python 👤 containers Organization 🕐 Aktualisiert 2026-11-14 📅 Erstellt 2024-07-24
35
syv-ai/HyperQwen

Führe große Qwen-Modelle schnell auf den GPUs aus, die du tatsächlich besitzt. Qwen3.8-27B auf einer einzelnen 24-GB-Karte mit vLLM: 127 Tok/s bei einem einzelnen Nutzer (381, wenn die Antwort den Prompt zitiert), etwa 1.035 Tok/s bei 64 gleichzeitigen Anfragen und ein Kontext von 150k–262k. vLLM-Patches, Requantisierungs-Pipeline und Benchmarks.

syv-ai
⭐ 2,778 Python 👤 syv-ai Organization 🕐 Aktualisiert 2026-11-10 📅 Erstellt 2026-08-15
36
vllm-project/production-stack

vLLMs Referenzsystem für K8S-native Cluster-weite Bereitstellung mit Community-gesteuerter Leistungsoptimierung

vllm-project
⭐ 2,729 Python 👤 vllm-project Organization 🕐 Aktualisiert 2026-11-07 📅 Erstellt 2025-01-21
37
Unakar/Logic-RL

Reproduzieren Sie R1 Zero im Logikrätsel

Unakar
⭐ 2,451 Python 👤 Unakar User 🕐 Aktualisiert 2025-03-20 📅 Erstellt 2025-02-02
38
zai-org/CodeGeeX4

CodeGeeX4-ALL-9B, ein vielseitiges Modell für alle KI-Softwareentwicklungsszenarien, einschließlich Codevervollständigung, Code-Interpreter, Websuche, Funktionsaufrufe, repository-weite Fragen und Antworten und vieles mehr.

zai-org
⭐ 2,347 Python 👤 zai-org Organization 🕐 Aktualisiert 2024-08-25 📅 Erstellt 2024-07-03
39
PrimeIntellect-ai/prime-rl

Agentisches RL-Training im großen Maßstab

PrimeIntellect-ai
⭐ 2,268 Python 👤 PrimeIntellect-ai Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-02-18
40
cfregly/ai-performance-engineering

Code, Labs und Ressourcen für O'Reilly AI Systems Performance Engineering: GPU-Optimierung, verteiltes Training, Inferenz-Skalierung und Full-Stack-Tuning.

cfregly
⭐ 2,233 Python 👤 cfregly User 🕐 Aktualisiert 2026-11-19 📅 Erstellt 2025-04-21
41
Tencent-Hunyuan/HunyuanOCR

HunyuanOCR-1.5: Leichte OCR-VLMs schneller und besser machen

Tencent-Hunyuan
⭐ 2,091 Python 👤 Tencent-Hunyuan Organization 🕐 Aktualisiert 2026-09-24 📅 Erstellt 2025-11-18
42
SemiAnalysisAI/InferenceX

Open-Source-Forschungsplattform für Inferenz

SemiAnalysisAI
⭐ 2,074 Python 👤 SemiAnalysisAI Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-07-12
43
ovg-project/kvcached

Virtualisierter elastischer KV-Cache für dynamische GPU-Freigabe und darüber hinaus

ovg-project
⭐ 2,051 Python 👤 ovg-project Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2025-05-27
45
noamgat/lm-format-enforcer

Erzwingen Sie das Ausgabeformat (JSON-Schema, Regex usw.) eines Sprachmodells

noamgat
⭐ 2,041 Python 👤 noamgat User 🕐 Aktualisiert 2026-04-04 📅 Erstellt 2023-09-21
46
vllm-project/vllm-metal

Community-gepflegtes Hardware-Plugin für vLLM auf Apple Silicon

vllm-project
⭐ 2,010 Python 👤 vllm-project Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-12-12
47
LeapLabTHU/Absolute-Zero-Reasoner

Offizielles Repository des Absolute Zero Reasoners

LeapLabTHU
⭐ 1,893 Python 👤 LeapLabTHU User 🕐 Aktualisiert 2025-08-24 📅 Erstellt 2025-05-02
48
sybil-solutions/local-studio

Steuerpanel für VLLM, Sglang, llama.cpp, exllamav3

sybil-solutions
⭐ 1,854 TypeScript 👤 sybil-solutions Organization 🕐 Aktualisiert 2026-10-26 📅 Erstellt 2025-12-17
49
brevdev/launchables

Sammlung von Notebook-Anleitungen, erstellt vom Brev.dev-Team!

brevdev
⭐ 1,819 Jupyter Notebook 👤 brevdev Organization 🕐 Aktualisiert 2026-07-21 📅 Erstellt 2023-08-14
50
BytedTsinghua-SIA/DAPO

Ein Open-Source-RL-System von ByteDance Seed und Tsinghua AIR

BytedTsinghua-SIA
⭐ 1,814 Python 👤 BytedTsinghua-SIA Organization 🕐 Aktualisiert 2025-05-11 📅 Erstellt 2025-03-17

Häufig gestellte Fragen

1

Welches ist das beliebteste #vllm-Repository auf GitHub?

Das am höchsten eingestufte Open-Source-#vllm-Projekt auf GitHub ist earendil-works/pi mit 123,140 Sternen. KI-Agenten-Toolkit: vereinheitlichte LLM-API, Agentenschleife, TUI, Coding-Agent-CLI

2

Welche Programmiersprachen werden in #vllm-Repositories am häufigsten verwendet?

Unter den am höchsten eingestuften #vllm-Projekten auf GitHub sind Python, Jupyter Notebook, Go, TypeScript die am häufigsten verwendeten Programmiersprachen.

3

Wie wird das Ranking der #vllm-Repositories berechnet?

Wir verfolgen 133 aktive Open-Source-Repositories, die mit #vllm getaggt sind (500+ Sterne), mit insgesamt 554,542 Sternen und durchschnittlich 4,169 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.