Git Stars Git Stars

#vllm 仓库

探索 133 个标记为 #vllm 的活跃开源 GitHub 仓库,它们累计获得 554,542 个 Star(平均每个项目 4,169 个)。该主题的领先项目是 earendil-works/pi,拥有 123,140 个 Star。

133
仓库总数
554,542
总星标数
4,169
平均每个仓库星标数

共 134 个仓库

1
earendil-works/pi

AI 智能体工具包:统一 LLM API、智能体循环、TUI、编程智能体 CLI

earendil-works
⭐ 123,140 TypeScript 👤 earendil-works Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-08-09
2
deepseek-ai/DeepSeek-Coder

DeepSeek Coder:让代码自己写

deepseek-ai
⭐ 24,365 Python 👤 deepseek-ai Organization 🕐 已更新 2025-11-11 📅 创建时间 2023-10-20
3
deepseek-ai/DeepSeek-OCR

光学压缩上下文

deepseek-ai
⭐ 24,180 Python 👤 deepseek-ai Organization 🕐 已更新 2026-01-27 📅 创建时间 2025-10-17
4
datalab-to/surya

OCR,版面分析,阅读顺序,90多种语言的表格识别

datalab-to
⭐ 21,608 Python 👤 datalab-to Organization 🕐 已更新 2026-11-13 📅 创建时间 2024-01-10
5
modelscope/FunASR

开源语音识别工具包,用于训练、推理、流式ASR、语音活动检测(VAD)、标点符号、说话人分离管道,以及兼容OpenAI/MCP的服务。

modelscope
⭐ 21,091 Python 👤 modelscope Organization 🕐 已更新 2026-11-21 📅 创建时间 2022-11-24
6
meta-llama/llama-cookbook

欢迎来到 Llama Cookbook! 这是您使用 Llama 进行构建的必备指南:入门推断、微调、RAG。我们还向您展示如何使用 Llama 模型系列解决端到端问题,并在各种提供商服务上使用它们。

meta-llama
⭐ 18,595 Jupyter Notebook 👤 meta-llama Organization 🕐 已更新 2026-05-19 📅 创建时间 2023-07-17
7
budtmo/docker-android

支持 noVNC、视频录制、MCP 服务器和 AI 智能体的 Docker 中 Android 解决方案

budtmo
⭐ 16,184 Python 👤 budtmo User 🕐 已更新 2026-11-19 📅 创建时间 2016-12-22
8
Orchestra-Research/AI-Research-SKILLs

一个全面的开源AI研究和工程技能库,适用于任何AI模型。将这些技能打包,您的claude code/codex/gemini代理将成为一个全功能AI研究代理。由Orchestra Research维护。

Orchestra-Research
⭐ 14,716 TeX 👤 Orchestra-Research Organization 🕐 已更新 2026-10-11 📅 创建时间 2025-11-03
9
Jiayi-Pan/TinyZero

DeepSeek R1-Zero 的最小复现

Jiayi-Pan
⭐ 13,259 Python 👤 Jiayi-Pan User 🕐 已更新 2026-02-27 📅 创建时间 2025-01-21
10
halfrost/Halfrost-Field

✍🏻 源码深度解析、系统设计与工程实践博客 | Halfrost-Field 冰霜之地:源码解析、系统设计与工程实践笔记

halfrost
⭐ 13,259 Go 👤 halfrost User 🕐 已更新 2026-11-10 📅 创建时间 2017-04-02
11
datalab-to/chandra

能够处理具有完整布局的复杂表格、表单和手写体的OCR模型。

datalab-to
⭐ 12,741 Python 👤 datalab-to Organization 🕐 已更新 2026-11-16 📅 创建时间 2025-10-08
12
LMCache/LMCache

LMCache:利用最快的 KV 缓存层为您的 LLM 提速

LMCache
⭐ 12,405 Python 👤 LMCache Organization 🕐 已更新 2026-11-21 📅 创建时间 2024-05-28
13
OpenRLHF/OpenRLHF

一个易用、可扩展、高性能的基于Ray的Agentic RL框架(PPO & DAPO & REINFORCE++ & VLM & TIS & vLLM & Ray & Async RL)

OpenRLHF
⭐ 10,173 Python 👤 OpenRLHF Organization 🕐 已更新 2026-11-03 📅 创建时间 2023-07-30
14
xorbitsai/inference

面向语言、视觉、嵌入、重排序、图像、音频和视频模型的开源推理平台。支持通过多个推理引擎部署在异构硬件上,覆盖从笔记本电脑到分布式集群的各种环境。通过兼容 OpenAI 的 API 提供模型服务。

xorbitsai
⭐ 9,667 Python 👤 xorbitsai Organization 🕐 已更新 2026-11-21 📅 创建时间 2023-06-14
15
ai-dynamo/dynamo

一个数据中心规模的分布式推理服务框架

ai-dynamo
⭐ 8,542 Rust 👤 ai-dynamo Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-03-03
16
kvcache-ai/Mooncake

Mooncake 是 Moonshot AI 提供的领先 LLM 服务 Kimi 的服务平台。

kvcache-ai
⭐ 7,100 C++ 👤 kvcache-ai Organization 🕐 已更新 2026-11-21 📅 创建时间 2024-06-25
17
simplescaling/s1

s1: 简单的测试时间缩放

simplescaling
⭐ 6,656 Python 👤 simplescaling Organization 🕐 已更新 2025-06-25 📅 创建时间 2025-02-01
18
vllm-project/semantic-router

面向模型与计算的开放、可编程决策层。

vllm-project
⭐ 6,514 Go 👤 vllm-project Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-08-26
19
kserve/kserve

用于Kubernetes上可扩展、多框架部署的标准分布式生成和预测AI推理平台

kserve
⭐ 6,253 Go 👤 kserve Organization 🕐 已更新 2026-11-20 📅 创建时间 2019-03-27
20
gpustack/gpustack

一个用于高性能 AI 模型服务(vLLM, SGLang)和按需 SSH 访问 GPU 实例的 GPU 集群管理器。

gpustack
⭐ 6,097 Python 👤 gpustack Organization 🕐 已更新 2026-11-20 📅 创建时间 2024-05-11
21
skyzh/tiny-llm

面向系统工程师学习 Apple Silicon 上的大语言模型推理系统:构建一个迷你版 vLLM + Qwen

skyzh
⭐ 5,801 Python 👤 skyzh User 🕐 已更新 2026-11-16 📅 创建时间 2025-04-19
22
OpenBMB/UltraRAG

用于构建复杂且创新 RAG 管道的低代码 MCP 框架

OpenBMB
⭐ 5,748 Python 👤 OpenBMB Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-01-16
23
PeterGriffinJin/Search-R1

Search-R1: 一个基于veRL的、用于推理和搜索引擎调用的、高效且可扩展的RL训练框架

PeterGriffinJin
⭐ 5,575 Python 👤 PeterGriffinJin User 🕐 已更新 2025-11-13 📅 创建时间 2025-02-28
24
xlite-dev/Awesome-LLM-Inference

📚精选的超棒 LLM/VLM 推理论文及代码列表:Flash-Attention、Paged-Attention、WINT8/4、并行化等。🎉

xlite-dev
⭐ 5,565 Python 👤 xlite-dev Organization 🕐 已更新 2026-10-20 📅 创建时间 2023-08-27
25
katanaml/sparrow

使用机器学习、大语言模型和视觉大语言模型进行结构化数据提取、指令调用和智能体工作流

katanaml
⭐ 5,234 Python 👤 katanaml Organization 🕐 已更新 2026-11-17 📅 创建时间 2022-01-08
26
PrimeIntellect-ai/verifiers

我们的强化学习环境和评估库

PrimeIntellect-ai
⭐ 4,797 Python 👤 PrimeIntellect-ai Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-01-22
28
CalvinXKY/InfraTech

分享AI Infra知识&代码练习:PyTorch、vLLM/SGLang、slime/vime框架入门⚡️、性能加速🚀、大模型基础🧠、AI软硬件🔧等

CalvinXKY
⭐ 4,411 Jupyter Notebook 👤 CalvinXKY User 🕐 已更新 2026-09-20 📅 创建时间 2025-11-14
29
OSU-NLP-Group/HippoRAG

[NeurIPS'24] HippoRAG 是一个受人类长期记忆启发的全新 RAG 框架,它使 LLM 能够跨外部文档持续集成知识。RAG + 知识图谱 + 个性化 PageRank。

OSU-NLP-Group
⭐ 4,138 Python 👤 OSU-NLP-Group Organization 🕐 已更新 2026-10-06 📅 创建时间 2024-05-23
30
lemony-ai/cascadeflow

AI 代理的级联运行时。在代理循环内部优化成本、延迟、质量和策略决策。

lemony-ai
⭐ 3,922 Python 👤 lemony-ai Organization 🕐 已更新 2026-09-25 📅 创建时间 2025-10-24
31
PaddlePaddle/FastDeploy

基于PaddlePaddle的大模型和视觉大模型的推理和部署工具包

PaddlePaddle
⭐ 3,722 Python 👤 PaddlePaddle Organization 🕐 已更新 2026-09-24 📅 创建时间 2022-06-27
32
ForceInjection/AI-fundamentals

AI 基础知识 - GPU 架构、CUDA 编程、大模型基础及AI Agent 相关知识。

ForceInjection
⭐ 3,515 HTML 👤 ForceInjection Organization 🕐 已更新 2026-11-20 📅 创建时间 2024-09-23
33
vllm-project/vllm-ascend

社区维护的华为昇腾 vLLM 硬件插件

vllm-project
⭐ 3,128 Python 👤 vllm-project Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-01-29
34
containers/ramalama

RamaLama 是一款开源开发工具,可通过熟悉的容器语言,简化来自任何来源的 AI 模型在本地的部署,并促进其在生产环境中的推理使用。

containers
⭐ 3,116 Python 👤 containers Organization 🕐 已更新 2026-11-14 📅 创建时间 2024-07-24
35
syv-ai/HyperQwen

在你实际拥有的 GPU 上快速部署大型 Qwen 模型。使用 vLLM 在单张 24 GB 显卡上运行 Qwen3.8-27B:单用户 127 token/秒(答案引用提示词时为 381 token/秒),64 路并发时约 1,035 token/秒,支持 150k–262k 上下文。vLLM 补丁、重新量化流程与基准测试。

syv-ai
⭐ 2,778 Python 👤 syv-ai Organization 🕐 已更新 2026-11-10 📅 创建时间 2026-08-15
36
vllm-project/production-stack

vLLM 针对 K8S 原生集群级部署的参考系统,具备社区驱动的性能优化

vllm-project
⭐ 2,729 Python 👤 vllm-project Organization 🕐 已更新 2026-11-07 📅 创建时间 2025-01-21
37
Unakar/Logic-RL

在逻辑谜题中重现 R1 Zero

Unakar
⭐ 2,451 Python 👤 Unakar User 🕐 已更新 2025-03-20 📅 创建时间 2025-02-02
38
zai-org/CodeGeeX4

CodeGeeX4-ALL-9B,一个适用于所有 AI 软件开发场景的通用模型,包括代码补全、代码解释器、网络搜索、函数调用、存储库级问答等。

zai-org
⭐ 2,347 Python 👤 zai-org Organization 🕐 已更新 2024-08-25 📅 创建时间 2024-07-03
39
PrimeIntellect-ai/prime-rl

大规模代理RL训练

PrimeIntellect-ai
⭐ 2,268 Python 👤 PrimeIntellect-ai Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-02-18
40
cfregly/ai-performance-engineering

O'Reilly AI 系统性能工程的代码、实验和资源:GPU 优化、分布式训练、推理扩展和全栈调优。

cfregly
⭐ 2,233 Python 👤 cfregly User 🕐 已更新 2026-11-19 📅 创建时间 2025-04-21
41
Tencent-Hunyuan/HunyuanOCR

HunyuanOCR-1.5:让轻量级OCR视觉语言模型更快更好

Tencent-Hunyuan
⭐ 2,091 Python 👤 Tencent-Hunyuan Organization 🕐 已更新 2026-09-24 📅 创建时间 2025-11-18
42
SemiAnalysisAI/InferenceX

开源推理研究平台

SemiAnalysisAI
⭐ 2,074 Python 👤 SemiAnalysisAI Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-07-12
43
ovg-project/kvcached

虚拟化弹性 KV 缓存:动态 GPU 共享及未来应用

ovg-project
⭐ 2,051 Python 👤 ovg-project Organization 🕐 已更新 2026-11-20 📅 创建时间 2025-05-27
45
noamgat/lm-format-enforcer

强制语言模型的输出格式(JSON Schema、Regex 等)

noamgat
⭐ 2,041 Python 👤 noamgat User 🕐 已更新 2026-04-04 📅 创建时间 2023-09-21
46
vllm-project/vllm-metal

Apple Silicon 上的社区维护硬件插件(用于 vLLM)

vllm-project
⭐ 2,010 Python 👤 vllm-project Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-12-12
47
LeapLabTHU/Absolute-Zero-Reasoner

Absolute Zero Reasoner 官方仓库

LeapLabTHU
⭐ 1,893 Python 👤 LeapLabTHU User 🕐 已更新 2025-08-24 📅 创建时间 2025-05-02
48
sybil-solutions/local-studio

VLLM、Sglang、llama.cpp、exllamav3 控制面板

sybil-solutions
⭐ 1,854 TypeScript 👤 sybil-solutions Organization 🕐 已更新 2026-10-26 📅 创建时间 2025-12-17
49
brevdev/launchables

Brev.dev 团队创建的笔记本指南合集!

brevdev
⭐ 1,819 Jupyter Notebook 👤 brevdev Organization 🕐 已更新 2026-07-21 📅 创建时间 2023-08-14
50
BytedTsinghua-SIA/DAPO

字节跳动育星和清华AIR的开源RL系统

BytedTsinghua-SIA
⭐ 1,814 Python 👤 BytedTsinghua-SIA Organization 🕐 已更新 2025-05-11 📅 创建时间 2025-03-17

常见问题解答

1

GitHub 上最受欢迎的 #vllm 仓库是什么?

GitHub 上排名第一的开源 #vllm 项目是 earendil-works/pi,拥有 123,140 个 Star。AI 智能体工具包:统一 LLM API、智能体循环、TUI、编程智能体 CLI

2

#vllm 仓库中最常使用的编程语言有哪些?

在 GitHub 上排名靠前的 #vllm 项目中,最常见的编程语言是 Python, Jupyter Notebook, Go, TypeScript。

3

#vllm 仓库的排名是如何计算的?

我们跟踪了 133 个标记为 #vllm 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 554,542 个 Star,平均每个仓库拥有 4,169 个 Star。排名每日根据 GitHub API 更新。