Git Stars Git Stars

#vllm Репозитории

Откройте для себя 133 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #vllm, с общим числом 554,542 звёзд (в среднем 4,169 на проект). Лидером этой темы является earendil-works/pi, набравший 123,140 звёзд.

133
Всего репозиториев
554,542
Всего звезд
4,169
Среднее количество звезд на репозиторий

Всего репозиториев: 134

1
earendil-works/pi

Набор инструментов для ИИ-агентов: унифицированный API LLM, цикл агента, TUI, CLI для агента кодирования

earendil-works
⭐ 123,140 TypeScript 👤 earendil-works Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-08-09
2
deepseek-ai/DeepSeek-Coder

DeepSeek Coder: Пусть код пишет себя сам

deepseek-ai
⭐ 24,365 Python 👤 deepseek-ai Organization 🕐 Обновлено 2025-11-11 📅 Создано 2023-10-20
3
deepseek-ai/DeepSeek-OCR

Контексты оптического сжатия

deepseek-ai
⭐ 24,180 Python 👤 deepseek-ai Organization 🕐 Обновлено 2026-01-27 📅 Создано 2025-10-17
4
datalab-to/surya

OCR, анализ макета, порядок чтения, распознавание таблиц на 90+ языках

datalab-to
⭐ 21,608 Python 👤 datalab-to Organization 🕐 Обновлено 2026-11-13 📅 Создано 2024-01-10
5
modelscope/FunASR

Набор инструментов с открытым исходным кодом для распознавания речи, предназначенный для обучения, вывода, потокового ASR, VAD, пунктуации, конвейеров диаризации дикторов и обслуживания, совместимого с OpenAI/MCP.

modelscope
⭐ 21,091 Python 👤 modelscope Organization 🕐 Обновлено 2026-11-21 📅 Создано 2022-11-24
6
meta-llama/llama-cookbook

Добро пожаловать в «Кулинарную книгу Llama»! Это ваше руководство по созданию с помощью Llama: начало работы с инференсом, дообучением, RAG. Мы также покажем вам, как решать комплексные проблемы, используя семейство моделей Llama и применяя их в различных сервисах поставщиков.

meta-llama
⭐ 18,595 Jupyter Notebook 👤 meta-llama Organization 🕐 Обновлено 2026-05-19 📅 Создано 2023-07-17
7
budtmo/docker-android

Решение для запуска Android в Docker с поддержкой noVNC, записи видео, MCP-сервера и ИИ-агента

budtmo
⭐ 16,184 Python 👤 budtmo User 🕐 Обновлено 2026-11-19 📅 Создано 2016-12-22
8
Orchestra-Research/AI-Research-SKILLs

Всеобъемлющая библиотека с открытым исходным кодом навыков исследований и инженерии ИИ для любой модели ИИ. Упакуйте эти навыки, и ваш агент claude code/codex/gemini станет исследовательским ИИ-агентом с полной мощностью. Поддерживается Orchestra Research.

Orchestra-Research
⭐ 14,716 TeX 👤 Orchestra-Research Organization 🕐 Обновлено 2026-10-11 📅 Создано 2025-11-03
9
Jiayi-Pan/TinyZero

Минимальная репродукция DeepSeek R1-Zero

Jiayi-Pan
⭐ 13,259 Python 👤 Jiayi-Pan User 🕐 Обновлено 2026-02-27 📅 Создано 2025-01-21
10
halfrost/Halfrost-Field

✍🏻 Глубокое погружение в исходный код, проектирование систем и инженерные блоги | Halfrost-Field: Заметки по анализу исходного кода, проектированию систем и инженерной практике

halfrost
⭐ 13,259 Go 👤 halfrost User 🕐 Обновлено 2026-11-10 📅 Создано 2017-04-02
11
datalab-to/chandra

OCR-модель, обрабатывающая сложные таблицы, формы и рукописный ввод с полным сохранением макета.

datalab-to
⭐ 12,741 Python 👤 datalab-to Organization 🕐 Обновлено 2026-11-16 📅 Создано 2025-10-08
12
LMCache/LMCache

LMCache: Ускорьте свою LLM с помощью самого быстрого уровня кэширования KV

LMCache
⭐ 12,405 Python 👤 LMCache Organization 🕐 Обновлено 2026-11-21 📅 Создано 2024-05-28
13
OpenRLHF/OpenRLHF

Простой в использовании, масштабируемый и высокопроизводительный фреймворк для агентного RL на базе Ray (PPO & DAPO & REINFORCE++ & VLM & TIS & vLLM & Ray & Async RL)

OpenRLHF
⭐ 10,173 Python 👤 OpenRLHF Organization 🕐 Обновлено 2026-11-03 📅 Создано 2023-07-30
14
xorbitsai/inference

Открытая платформа для инференса языковых, визуальных, эмбеддинговых моделей, моделей переранжирования, изображений, аудио и видео. Развертывайте несколько движков на разнородном оборудовании — от ноутбука до распределенного кластера. Предоставляйте модели через API, совместимые с OpenAI.

xorbitsai
⭐ 9,667 Python 👤 xorbitsai Organization 🕐 Обновлено 2026-11-21 📅 Создано 2023-06-14
15
ai-dynamo/dynamo

Фреймворк для распределенного обслуживания выводов в масштабе дата-центра

ai-dynamo
⭐ 8,542 Rust 👤 ai-dynamo Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-03-03
16
kvcache-ai/Mooncake

Mooncake — это платформа обслуживания для Kimi, ведущего LLM-сервиса, предоставляемого Moonshot AI.

kvcache-ai
⭐ 7,100 C++ 👤 kvcache-ai Organization 🕐 Обновлено 2026-11-21 📅 Создано 2024-06-25
17
simplescaling/s1

s1: Простое масштабирование во время выполнения

simplescaling
⭐ 6,656 Python 👤 simplescaling Organization 🕐 Обновлено 2025-06-25 📅 Создано 2025-02-01
18
vllm-project/semantic-router

Открытый программируемый слой принятия решений для моделей и вычислений.

vllm-project
⭐ 6,514 Go 👤 vllm-project Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-08-26
19
kserve/kserve

Стандартизированная распределенная платформа для генеративного и предиктивного вывода ИИ для масштабируемого развертывания с несколькими фреймворками на Kubernetes

kserve
⭐ 6,253 Go 👤 kserve Organization 🕐 Обновлено 2026-11-20 📅 Создано 2019-03-27
20
gpustack/gpustack

Менеджер GPU-кластеров для высокопроизводительного обслуживания моделей ИИ (vLLM, SGLang) и предоставления GPU-инстансов по запросу с доступом по SSH.

gpustack
⭐ 6,097 Python 👤 gpustack Organization 🕐 Обновлено 2026-11-20 📅 Создано 2024-05-11
21
skyzh/tiny-llm

Изучите системы инференса LLM на Apple Silicon для системных инженеров: создайте небольшой vLLM + Qwen

skyzh
⭐ 5,801 Python 👤 skyzh User 🕐 Обновлено 2026-11-16 📅 Создано 2025-04-19
22
OpenBMB/UltraRAG

Low-code MCP-фреймворк для создания сложных и инновационных RAG-пайплайнов

OpenBMB
⭐ 5,748 Python 👤 OpenBMB Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-01-16
23
PeterGriffinJin/Search-R1

Search-R1: Эффективная, масштабируемая структура обучения RL для рассуждений и вызовов поисковых систем с использованием LLM, основанных на veRL

PeterGriffinJin
⭐ 5,575 Python 👤 PeterGriffinJin User 🕐 Обновлено 2025-11-13 📅 Создано 2025-02-28
24
xlite-dev/Awesome-LLM-Inference

📚Подборка отличных статей об инференсе LLM/VLM с кодами: Flash-Attention, Paged-Attention, WINT8/4, Parallelism и т.д.🎉

xlite-dev
⭐ 5,565 Python 👤 xlite-dev Organization 🕐 Обновлено 2026-10-20 📅 Создано 2023-08-27
25
katanaml/sparrow

Извлечение структурированных данных, вызов инструкций и агентные рабочие процессы с использованием ML, LLM и Vision LLM

katanaml
⭐ 5,234 Python 👤 katanaml Organization 🕐 Обновлено 2026-11-17 📅 Создано 2022-01-08
26
PrimeIntellect-ai/verifiers

Наша библиотека для сред обучения с подкреплением + оценок

PrimeIntellect-ai
⭐ 4,797 Python 👤 PrimeIntellect-ai Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-01-22
⭐ 4,630 Python 👤 stepfun-ai Organization 🕐 Обновлено 2026-03-16 📅 Создано 2025-02-11
28
CalvinXKY/InfraTech

Обмен знаниями об AI Infra и практика кода: PyTorch, vLLM/SGLang, введение в фреймворк slime/vime ⚡️, ускорение производительности 🚀, основы больших моделей 🧠, программное и аппаратное обеспечение ИИ 🔧 и т.д.

CalvinXKY
⭐ 4,411 Jupyter Notebook 👤 CalvinXKY User 🕐 Обновлено 2026-09-20 📅 Создано 2025-11-14
29
OSU-NLP-Group/HippoRAG

[NeurIPS'24] HippoRAG — это новая RAG-структура, вдохновленная человеческой долговременной памятью, которая позволяет LLM непрерывно интегрировать знания из внешних документов. RAG + Графы знаний + Personalized PageRank.

OSU-NLP-Group
⭐ 4,138 Python 👤 OSU-NLP-Group Organization 🕐 Обновлено 2026-10-06 📅 Создано 2024-05-23
30
lemony-ai/cascadeflow

Каскадный runtime для ИИ-агентов. Оптимизируйте затраты, задержку, качество и решения по политикам внутри цикла агента.

lemony-ai
⭐ 3,922 Python 👤 lemony-ai Organization 🕐 Обновлено 2026-09-25 📅 Создано 2025-10-24
31
PaddlePaddle/FastDeploy

Высокопроизводительный набор инструментов для инференса и развертывания LLM и VLM на базе PaddlePaddle

PaddlePaddle
⭐ 3,722 Python 👤 PaddlePaddle Organization 🕐 Обновлено 2026-09-24 📅 Создано 2022-06-27
32
ForceInjection/AI-fundamentals

Основы ИИ — архитектура GPU, программирование на CUDA, основы больших языковых моделей и знания об ИИ-агентах.

ForceInjection
⭐ 3,515 HTML 👤 ForceInjection Organization 🕐 Обновлено 2026-11-20 📅 Создано 2024-09-23
33
vllm-project/vllm-ascend

Аппаратный плагин для vLLM на Huawei Ascend, поддерживаемый сообществом

vllm-project
⭐ 3,128 Python 👤 vllm-project Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-01-29
34
containers/ramalama

RamaLama — это инструмент разработчика с открытым исходным кодом, который упрощает локальное развертывание моделей ИИ из любого источника и облегчает их использование для инференса в производственной среде, используя привычный язык контейнеров.

containers
⭐ 3,116 Python 👤 containers Organization 🕐 Обновлено 2026-11-14 📅 Создано 2024-07-24
35
syv-ai/HyperQwen

Быстро обслуживайте большие модели Qwen на тех GPU, которыми вы действительно располагаете. Qwen3.8-27B на одной карте объёмом 24 ГБ с vLLM: 127 ток/с для одного пользователя (381, когда ответ цитирует промпт), около 1 035 ток/с при 64 одновременных запросах, контекст 150k–262k. Патчи для vLLM, конвейер повторной квантизации и бенчмарки.

syv-ai
⭐ 2,778 Python 👤 syv-ai Organization 🕐 Обновлено 2026-11-10 📅 Создано 2026-08-15
36
vllm-project/production-stack

Референтная система vLLM для нативной для K8S кластерной развертки с оптимизацией производительности под руководством сообщества

vllm-project
⭐ 2,729 Python 👤 vllm-project Organization 🕐 Обновлено 2026-11-07 📅 Создано 2025-01-21
37
Unakar/Logic-RL

Воспроизвести R1 Zero в логической головоломке

Unakar
⭐ 2,451 Python 👤 Unakar User 🕐 Обновлено 2025-03-20 📅 Создано 2025-02-02
38
zai-org/CodeGeeX4

CodeGeeX4-ALL-9B — универсальная модель для всех сценариев разработки программного обеспечения с использованием ИИ, включая автодополнение кода, интерпретатор кода, веб-поиск, вызов функций, ответы на вопросы на уровне репозитория и многое другое.

zai-org
⭐ 2,347 Python 👤 zai-org Organization 🕐 Обновлено 2024-08-25 📅 Создано 2024-07-03
39
PrimeIntellect-ai/prime-rl

Обучение RL с агентным подходом в масштабе

PrimeIntellect-ai
⭐ 2,268 Python 👤 PrimeIntellect-ai Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-02-18
40
cfregly/ai-performance-engineering

Код, лабораторные работы и ресурсы для O'Reilly AI Systems Performance Engineering: оптимизация GPU, распределенное обучение, масштабирование вывода и полностековая настройка.

cfregly
⭐ 2,233 Python 👤 cfregly User 🕐 Обновлено 2026-11-19 📅 Создано 2025-04-21
41
Tencent-Hunyuan/HunyuanOCR

HunyuanOCR-1.5: Ускорение и улучшение легковесных VLM для OCR

Tencent-Hunyuan
⭐ 2,091 Python 👤 Tencent-Hunyuan Organization 🕐 Обновлено 2026-09-24 📅 Создано 2025-11-18
42
SemiAnalysisAI/InferenceX

Исследовательская платформа с открытым исходным кодом для инференса

SemiAnalysisAI
⭐ 2,074 Python 👤 SemiAnalysisAI Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-07-12
43
ovg-project/kvcached

Виртуализированный эластичный KV-кэш для динамического совместного использования GPU и не только

ovg-project
⭐ 2,051 Python 👤 ovg-project Organization 🕐 Обновлено 2026-11-20 📅 Создано 2025-05-27
45
noamgat/lm-format-enforcer

Принудительное применение формата вывода (JSON Schema, Regex и т. д.) языковой модели

noamgat
⭐ 2,041 Python 👤 noamgat User 🕐 Обновлено 2026-04-04 📅 Создано 2023-09-21
46
vllm-project/vllm-metal

Плагин аппаратного обеспечения, поддерживаемый сообществом, для vLLM на Apple Silicon

vllm-project
⭐ 2,010 Python 👤 vllm-project Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-12-12
47
LeapLabTHU/Absolute-Zero-Reasoner

Официальный репозиторий Absolute Zero Reasoner

LeapLabTHU
⭐ 1,893 Python 👤 LeapLabTHU User 🕐 Обновлено 2025-08-24 📅 Создано 2025-05-02
48
sybil-solutions/local-studio

Панель управления для VLLM, Sglang, llama.cpp, exllamav3

sybil-solutions
⭐ 1,854 TypeScript 👤 sybil-solutions Organization 🕐 Обновлено 2026-10-26 📅 Создано 2025-12-17
49
brevdev/launchables

Коллекция руководств по ноутбукам, созданных командой Brev.dev!

brevdev
⭐ 1,819 Jupyter Notebook 👤 brevdev Organization 🕐 Обновлено 2026-07-21 📅 Создано 2023-08-14
50
BytedTsinghua-SIA/DAPO

Система RL с открытым исходным кодом от ByteDance Seed и Tsinghua AIR

BytedTsinghua-SIA
⭐ 1,814 Python 👤 BytedTsinghua-SIA Organization 🕐 Обновлено 2025-05-11 📅 Создано 2025-03-17

Часто задаваемые вопросы

1

Какой репозиторий по теме #vllm наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #vllm на GitHub — earendil-works/pi, набравший 123,140 звёзд. Набор инструментов для ИИ-агентов: унифицированный API LLM, цикл агента, TUI, CLI для агента кодирования

2

Какие языки программирования чаще всего используются в репозиториях по теме #vllm?

Среди наиболее высоко оценённых проектов по теме #vllm на GitHub чаще всего используются языки программирования Python, Jupyter Notebook, Go, TypeScript.

3

Как рассчитывается рейтинг репозиториев по теме #vllm?

Мы отслеживаем 133 активных репозиториев с открытым исходным кодом, отмеченных тегом #vllm (500 и более звёзд), с общим числом 554,542 звёзд и в среднем 4,169 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.