Git Stars Git Stars

#vllm Repositórios

Descubra 133 repositórios ativos de código aberto no GitHub marcados com #vllm, acumulando um total de 554,542 estrelas (uma média de 4,169 por projeto). O líder deste tópico é earendil-works/pi, com 123,140 estrelas.

133
Total de Repositórios
554,542
Total de estrelas
4,169
Média de Estrelas/Repositório

134 repositórios no total

1
earendil-works/pi

Kit de ferramentas para agentes de IA: API de LLM unificada, loop de agente, TUI, CLI de agente de codificação

earendil-works
⭐ 123,140 TypeScript 👤 earendil-works Organization 🕐 Atualizado 2026-11-21 📅 Criado 2025-08-09
2
deepseek-ai/DeepSeek-Coder

DeepSeek Coder: Deixe o Código Escrever a Si Mesmo

deepseek-ai
⭐ 24,365 Python 👤 deepseek-ai Organization 🕐 Atualizado 2025-11-11 📅 Criado 2023-10-20
3
deepseek-ai/DeepSeek-OCR

Contextos de compressão óptica

deepseek-ai
⭐ 24,180 Python 👤 deepseek-ai Organization 🕐 Atualizado 2026-01-27 📅 Criado 2025-10-17
4
datalab-to/surya

OCR, análise de layout, ordem de leitura, reconhecimento de tabelas em mais de 90 idiomas

datalab-to
⭐ 21,608 Python 👤 datalab-to Organization 🕐 Atualizado 2026-11-13 📅 Criado 2024-01-10
5
modelscope/FunASR

Kit de ferramentas de reconhecimento de fala de código aberto para treinamento, inferência, ASR em streaming, VAD, pontuação, pipelines de diarização de falantes e serviço compatível com OpenAI/MCP.

modelscope
⭐ 21,091 Python 👤 modelscope Organization 🕐 Atualizado 2026-11-21 📅 Criado 2022-11-24
6
meta-llama/llama-cookbook

Bem-vindo ao Llama Cookbook! Este é o seu guia essencial para Construir com Llama: Começando com Inferência, Ajuste Fino (Fine-Tuning) e RAG. Também mostramos como resolver problemas de ponta a ponta usando a família de modelos Llama e como utilizá-los em vários serviços de provedores.

meta-llama
⭐ 18,595 Jupyter Notebook 👤 meta-llama Organization 🕐 Atualizado 2026-05-19 📅 Criado 2023-07-17
7
budtmo/docker-android

Solução Android no Docker com suporte a noVNC, gravação de vídeo, servidor MCP e agente de IA

budtmo
⭐ 16,184 Python 👤 budtmo User 🕐 Atualizado 2026-11-19 📅 Criado 2016-12-22
8
Orchestra-Research/AI-Research-SKILLs

Biblioteca abrangente de código aberto de habilidades de pesquisa e engenharia de IA para qualquer modelo de IA. Empacote as habilidades e seu agente claude code/codex/gemini será um agente de pesquisa de IA com toda a sua potência. Mantido pela Orchestra Research.

Orchestra-Research
⭐ 14,716 TeX 👤 Orchestra-Research Organization 🕐 Atualizado 2026-10-11 📅 Criado 2025-11-03
9
Jiayi-Pan/TinyZero

Reprodução mínima do DeepSeek R1-Zero

Jiayi-Pan
⭐ 13,259 Python 👤 Jiayi-Pan User 🕐 Atualizado 2026-02-27 📅 Criado 2025-01-21
10
halfrost/Halfrost-Field

✍🏻 Mergulhos profundos em código fonte, design de sistemas e blogs de engenharia | Halfrost-Field: Notas de análise de código fonte, design de sistemas e prática de engenharia

halfrost
⭐ 13,259 Go 👤 halfrost User 🕐 Atualizado 2026-11-10 📅 Criado 2017-04-02
11
datalab-to/chandra

Modelo de OCR que lida com tabelas complexas, formulários e escrita à mão com layout completo.

datalab-to
⭐ 12,741 Python 👤 datalab-to Organization 🕐 Atualizado 2026-11-16 📅 Criado 2025-10-08
12
LMCache/LMCache

LMCache: Turbine seu LLM com a camada de cache KV mais rápida

LMCache
⭐ 12,405 Python 👤 LMCache Organization 🕐 Atualizado 2026-11-21 📅 Criado 2024-05-28
13
OpenRLHF/OpenRLHF

Um framework RL agentico fácil de usar, escalável e de alto desempenho baseado em Ray (PPO & DAPO & REINFORCE++ & VLM & TIS & vLLM & Ray & Async RL)

OpenRLHF
⭐ 10,173 Python 👤 OpenRLHF Organization 🕐 Atualizado 2026-11-03 📅 Criado 2023-07-30
14
xorbitsai/inference

Plataforma de inferência de código aberto para modelos de linguagem, visão, embeddings, reranking, imagem, áudio e vídeo. Implante vários mecanismos em hardware heterogêneo, de um laptop a um cluster distribuído. Disponibilize modelos por meio de APIs compatíveis com a OpenAI.

xorbitsai
⭐ 9,667 Python 👤 xorbitsai Organization 🕐 Atualizado 2026-11-21 📅 Criado 2023-06-14
15
ai-dynamo/dynamo

Um Framework de Serviço de Inferência Distribuída em Escala de Data Center

ai-dynamo
⭐ 8,542 Rust 👤 ai-dynamo Organization 🕐 Atualizado 2026-11-21 📅 Criado 2025-03-03
16
kvcache-ai/Mooncake

Mooncake é a plataforma de serviço para Kimi, um serviço de LLM líder fornecido pela Moonshot AI.

kvcache-ai
⭐ 7,100 C++ 👤 kvcache-ai Organization 🕐 Atualizado 2026-11-21 📅 Criado 2024-06-25
17
simplescaling/s1

s1: Escalonamento simples em tempo de teste

simplescaling
⭐ 6,656 Python 👤 simplescaling Organization 🕐 Atualizado 2025-06-25 📅 Criado 2025-02-01
18
vllm-project/semantic-router

Uma camada de decisão aberta e programável para modelos e computação.

vllm-project
⭐ 6,514 Go 👤 vllm-project Organization 🕐 Atualizado 2026-11-21 📅 Criado 2025-08-26
19
kserve/kserve

Plataforma Padronizada de Inferência de IA Generativa e Preditiva Distribuída para Implantação Escalável e Multi-Framework no Kubernetes

kserve
⭐ 6,253 Go 👤 kserve Organization 🕐 Atualizado 2026-11-20 📅 Criado 2019-03-27
20
gpustack/gpustack

Um gerenciador de cluster de GPU para serviço de modelos de IA de alto desempenho (vLLM, SGLang) e instâncias de GPU sob demanda acessíveis via SSH.

gpustack
⭐ 6,097 Python 👤 gpustack Organization 🕐 Atualizado 2026-11-20 📅 Criado 2024-05-11
21
skyzh/tiny-llm

Aprenda sobre sistemas de inferência de LLM no Apple Silicon para engenheiros de sistemas: construa um pequeno vLLM + Qwen

skyzh
⭐ 5,801 Python 👤 skyzh User 🕐 Atualizado 2026-11-16 📅 Criado 2025-04-19
22
OpenBMB/UltraRAG

Uma estrutura MCP de baixo código para construir pipelines RAG complexos e inovadores

OpenBMB
⭐ 5,748 Python 👤 OpenBMB Organization 🕐 Atualizado 2026-11-21 📅 Criado 2025-01-16
23
PeterGriffinJin/Search-R1

Search-R1: Uma Estrutura Eficiente e Escalável de Treinamento RL para Invocação de Motor de Busca e Raciocínio intercalada baseada em LLM usando veRL

PeterGriffinJin
⭐ 5,575 Python 👤 PeterGriffinJin User 🕐 Atualizado 2025-11-13 📅 Criado 2025-02-28
24
xlite-dev/Awesome-LLM-Inference

📚Uma lista selecionada de artigos incríveis sobre Inferência de LLM/VLM com Códigos: Flash-Attention, Paged-Attention, WINT8/4, Parallelism, etc.🎉

xlite-dev
⭐ 5,565 Python 👤 xlite-dev Organization 🕐 Atualizado 2026-10-20 📅 Criado 2023-08-27
25
katanaml/sparrow

Extração de dados estruturados, chamada de instruções e fluxos de trabalho agentivos com ML, LLM e Vision LLM

katanaml
⭐ 5,234 Python 👤 katanaml Organization 🕐 Atualizado 2026-11-17 📅 Criado 2022-01-08
26
PrimeIntellect-ai/verifiers

Nossa biblioteca para ambientes de RL + avaliações

PrimeIntellect-ai
⭐ 4,797 Python 👤 PrimeIntellect-ai Organization 🕐 Atualizado 2026-11-21 📅 Criado 2025-01-22
28
CalvinXKY/InfraTech

Compartilhamento de conhecimento de AI Infra e prática de código: PyTorch, vLLM/SGLang, introdução ao framework slime/vime ⚡️, aceleração de desempenho 🚀, fundamentos de modelos grandes 🧠, software e hardware de IA 🔧, etc.

CalvinXKY
⭐ 4,411 Jupyter Notebook 👤 CalvinXKY User 🕐 Atualizado 2026-09-20 📅 Criado 2025-11-14
29
OSU-NLP-Group/HippoRAG

[NeurIPS'24] HippoRAG é um novo framework RAG inspirado na memória de longo prazo humana, que permite que LLMs integrem continuamente conhecimento de documentos externos. RAG + Grafos de Conhecimento + PageRank Personalizado.

OSU-NLP-Group
⭐ 4,138 Python 👤 OSU-NLP-Group Organization 🕐 Atualizado 2026-10-06 📅 Criado 2024-05-23
30
lemony-ai/cascadeflow

Runtime em cascata para agentes de IA. Otimize custo, latência, qualidade e decisões de política dentro do loop do agente.

lemony-ai
⭐ 3,922 Python 👤 lemony-ai Organization 🕐 Atualizado 2026-09-25 📅 Criado 2025-10-24
31
PaddlePaddle/FastDeploy

Toolkit de Inferência e Implantação de Alto Desempenho para LLMs e VLMs baseado no PaddlePaddle

PaddlePaddle
⭐ 3,722 Python 👤 PaddlePaddle Organization 🕐 Atualizado 2026-09-24 📅 Criado 2022-06-27
32
ForceInjection/AI-fundamentals

Fundamentos de IA - arquitetura de GPU, programação CUDA, noções básicas de grandes modelos e conhecimentos relacionados a agentes de IA.

ForceInjection
⭐ 3,515 HTML 👤 ForceInjection Organization 🕐 Atualizado 2026-11-20 📅 Criado 2024-09-23
33
vllm-project/vllm-ascend

Plugin de hardware para vLLM no Huawei Ascend mantido pela comunidade

vllm-project
⭐ 3,128 Python 👤 vllm-project Organization 🕐 Atualizado 2026-11-21 📅 Criado 2025-01-29
34
containers/ramalama

RamaLama é uma ferramenta de desenvolvimento de código aberto que simplifica o fornecimento local de modelos de IA de qualquer fonte e facilita o seu uso para inferência em produção, tudo através da linguagem familiar dos contêineres.

containers
⭐ 3,116 Python 👤 containers Organization 🕐 Atualizado 2026-11-14 📅 Criado 2024-07-24
35
syv-ai/HyperQwen

Execute modelos Qwen grandes rapidamente nas GPUs que você realmente possui. Qwen3.8-27B em uma única placa de 24 GB com vLLM: 127 tok/s para um único usuário (381 quando a resposta cita o prompt), cerca de 1.035 tok/s com 64 requisições simultâneas e contexto de 150k–262k. Patches do vLLM, pipeline de requantização e benchmarks.

syv-ai
⭐ 2,778 Python 👤 syv-ai Organization 🕐 Atualizado 2026-11-10 📅 Criado 2026-08-15
36
vllm-project/production-stack

Sistema de referência do vLLM para implantação em todo o cluster nativa de K8S com otimização de desempenho impulsionada pela comunidade

vllm-project
⭐ 2,729 Python 👤 vllm-project Organization 🕐 Atualizado 2026-11-07 📅 Criado 2025-01-21
37
Unakar/Logic-RL

Reproduzir R1 Zero em Quebra-Cabeça Lógico

Unakar
⭐ 2,451 Python 👤 Unakar User 🕐 Atualizado 2025-03-20 📅 Criado 2025-02-02
38
zai-org/CodeGeeX4

CodeGeeX4-ALL-9B, um modelo versátil para todos os cenários de desenvolvimento de software de IA, incluindo preenchimento de código, interpretador de código, pesquisa na web, chamada de função, perguntas e respostas em nível de repositório e muito mais.

zai-org
⭐ 2,347 Python 👤 zai-org Organization 🕐 Atualizado 2024-08-25 📅 Criado 2024-07-03
39
PrimeIntellect-ai/prime-rl

Treinamento RL Agentivo em Grande Escala

PrimeIntellect-ai
⭐ 2,268 Python 👤 PrimeIntellect-ai Organization 🕐 Atualizado 2026-11-21 📅 Criado 2025-02-18
40
cfregly/ai-performance-engineering

Código, laboratórios e recursos para O'Reilly AI Systems Performance Engineering: otimização de GPU, treinamento distribuído, escalonamento de inferência e ajuste full-stack.

cfregly
⭐ 2,233 Python 👤 cfregly User 🕐 Atualizado 2026-11-19 📅 Criado 2025-04-21
41
Tencent-Hunyuan/HunyuanOCR

HunyuanOCR-1.5: Tornando VLMs de OCR leves mais rápidos e melhores

Tencent-Hunyuan
⭐ 2,091 Python 👤 Tencent-Hunyuan Organization 🕐 Atualizado 2026-09-24 📅 Criado 2025-11-18
42
SemiAnalysisAI/InferenceX

Plataforma de pesquisa em inferência de código aberto

SemiAnalysisAI
⭐ 2,074 Python 👤 SemiAnalysisAI Organization 🕐 Atualizado 2026-11-21 📅 Criado 2025-07-12
43
ovg-project/kvcached

Cache KV elástico virtualizado para compartilhamento dinâmico de GPU e além

ovg-project
⭐ 2,051 Python 👤 ovg-project Organization 🕐 Atualizado 2026-11-20 📅 Criado 2025-05-27
45
noamgat/lm-format-enforcer

Garantir o formato de saída (Esquema JSON, Regex, etc.) de um modelo de linguagem

noamgat
⭐ 2,041 Python 👤 noamgat User 🕐 Atualizado 2026-04-04 📅 Criado 2023-09-21
46
vllm-project/vllm-metal

Plugin de hardware mantido pela comunidade para vLLM no Apple Silicon

vllm-project
⭐ 2,010 Python 👤 vllm-project Organization 🕐 Atualizado 2026-11-21 📅 Criado 2025-12-12
47
LeapLabTHU/Absolute-Zero-Reasoner

Repositório Oficial do Absolute Zero Reasoner

LeapLabTHU
⭐ 1,893 Python 👤 LeapLabTHU User 🕐 Atualizado 2025-08-24 📅 Criado 2025-05-02
48
sybil-solutions/local-studio

Painel de controle para VLLM, Sglang, llama.cpp, exllamav3

sybil-solutions
⭐ 1,854 TypeScript 👤 sybil-solutions Organization 🕐 Atualizado 2026-10-26 📅 Criado 2025-12-17
49
brevdev/launchables

Coleção de guias de notebook criados pela equipe Brev.dev!

brevdev
⭐ 1,819 Jupyter Notebook 👤 brevdev Organization 🕐 Atualizado 2026-07-21 📅 Criado 2023-08-14
50
BytedTsinghua-SIA/DAPO

Um Sistema de RL de Código Aberto da ByteDance Seed e Tsinghua AIR

BytedTsinghua-SIA
⭐ 1,814 Python 👤 BytedTsinghua-SIA Organization 🕐 Atualizado 2025-05-11 📅 Criado 2025-03-17

Perguntas Frequentes

1

Qual é o repositório de #vllm mais popular no GitHub?

O projeto de código aberto de #vllm mais bem classificado no GitHub é earendil-works/pi, com 123,140 estrelas. Kit de ferramentas para agentes de IA: API de LLM unificada, loop de agente, TUI, CLI de agente de codificação

2

Quais linguagens de programação são mais usadas nos repositórios de #vllm?

Entre os projetos de #vllm mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, Jupyter Notebook, Go, TypeScript.

3

Como é calculada a classificação dos repositórios de #vllm?

Acompanhamos 133 repositórios ativos de código aberto marcados com #vllm (com mais de 500 estrelas), totalizando 554,542 estrelas e uma média de 4,169 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.