Git Stars Git Stars

#vllm Repositórios

133
Total de Repositórios
554,542
Total de estrelas
4,169
Média de Estrelas/Repositório
Linguagens de programação: Python Go HTML C++

134 repositórios no total

51
allenai/Olmo-core

Blocos de construção PyTorch para o ecossistema OLMo

allenai
⭐ 1,810 Python 👤 allenai Organization 🕐 Atualizado 2026-11-21 📅 Criado 2024-03-23
52
vllm-project/guidellm

Avalie e Aprimore Suas Implantações de LLM para Necessidades de Inferência do Mundo Real

vllm-project
⭐ 1,800 Python 👤 vllm-project Organization 🕐 Atualizado 2026-11-21 📅 Criado 2024-05-29
53
StartLuxLabs/StartLux-Decision

Modelos abertos de decisão de 0,8B a 27B: uma probabilidade calibrada para cada opção em uma única passagem e um breve raciocínio apenas quando houver incerteza. Motor para vLLM, llama.cpp e MLX.

StartLuxLabs
⭐ 1,780 Python 👤 StartLuxLabs Organization 🕐 Atualizado 2026-10-23 📅 Criado 2026-09-29
54
intel/auto-round

Eficiência da quantização pós-treinamento, precisão da quantização com treinamento consciente

intel
⭐ 1,706 Python 👤 intel Organization 🕐 Atualizado 2026-11-21 📅 Criado 2024-01-04
56
waybarrios/vllm-mlx

Servidor de inferência de LLM de alto desempenho compatível com OpenAI e Anthropic para Apple Silicon. MLX nativo, processamento em lote contínuo, modelos multimodais, chamadas de ferramentas MCP e suporte a Claude Code.

waybarrios
⭐ 1,657 Python 👤 waybarrios User 🕐 Atualizado 2026-11-07 📅 Criado 2025-12-06
57
nokia-applied-research/AnyJev

Transforme qualquer LLM em um modelo de decisão no estilo Jev: decisões tipadas, probabilidades reais, sem treinamento. (Atualizações contínuas; aceitamos qualquer relato de problema e solicitação de PR)

nokia-applied-research
⭐ 1,632 Python 👤 nokia-applied-research Organization 🕐 Atualizado 2026-10-21 📅 Criado 2026-09-21
58
autonomous-ai/Personal-AI-Computer

Configurações de computadores de IA de código aberto, desde desktops com 2 GPUs até servidores com 8 GPUs: CAD, lista de materiais, BIOS e guias de montagem. Adquira o kit do gabinete com risers PCIe ou peça-nos uma verificação gratuita de compatibilidade.

autonomous-ai
⭐ 1,601 👤 autonomous-ai Organization 🕐 Atualizado 2026-11-05 📅 Criado 2025-08-22
⭐ 1,599 Python 👤 databricks Organization 🕐 Atualizado 2026-03-25 📅 Criado 2023-01-26
61
tencent-ailab/persona-hub

Repositório oficial do artigo "Escalando a Criação de Dados Sintéticos com 1.000.000.000 de Personas"

tencent-ailab
⭐ 1,585 Python 👤 tencent-ailab User 🕐 Atualizado 2025-02-19 📅 Criado 2024-06-22
62
verl-project/verl-omni

Estrutura de treinamento RL multimodal para modelos de difusão e omni

verl-project
⭐ 1,560 Python 👤 verl-project Organization 🕐 Atualizado 2026-11-21 📅 Criado 2026-04-21
64
BICLab/SpikingBrain-7B

Modelos Grandes Inspirados no Cérebro com Spiking, integrando atenção híbrida eficiente, módulos MoE e codificação de spikes em sua arquitetura

BICLab
⭐ 1,432 Python 👤 BICLab User 🕐 Atualizado 2026-05-14 📅 Criado 2025-09-03
65
MoonshotAI/Kimi-Dev

LLM de codificação de código aberto para tarefas de engenharia de software

MoonshotAI
⭐ 1,357 Python 👤 MoonshotAI Organization 🕐 Atualizado 2025-09-30 📅 Criado 2025-06-16
66
ModelCloud/GPTQModel

Kit de ferramentas para quantização (compressão) de modelos LLM, com suporte à aceleração por hardware para Nvidia CUDA, AMD ROCm, Intel XPU, Tenstorrent, NPU Huawei Ascend e CPUs Intel/AMD/Apple via HF, vLLM e SGLang.

ModelCloud
⭐ 1,294 Python 👤 ModelCloud Organization 🕐 Atualizado 2026-11-21 📅 Criado 2024-06-17
67
kubeai-project/kubeai

Operador de Inferência de IA para Kubernetes. A maneira mais fácil de servir modelos de ML em produção. Suporta VLMs, LLMs, embeddings e fala-para-texto.

kubeai-project
⭐ 1,294 Go 👤 kubeai-project Organization 🕐 Atualizado 2026-11-16 📅 Criado 2023-10-21
⭐ 1,293 Python 👤 Visual-Agent Organization 🕐 Atualizado 2025-11-20 📅 Criado 2025-03-15
69
OpenBuddy/OpenBuddy

Chatbot Multilíngue Aberto para Todos

OpenBuddy
⭐ 1,274 👤 OpenBuddy Organization 🕐 Atualizado 2025-06-08 📅 Criado 2023-04-26
70
patchy631/time-to-first-token

Um roteiro de 10 semanas, com 30 minutos por dia, para servir e otimizar a inferência de LLMs. vLLM, SGLang, quantização, decodificação especulativa e benchmarking.

patchy631
⭐ 1,245 HTML 👤 patchy631 User 🕐 Atualizado 2026-08-14 📅 Criado 2026-08-02
71
Ksuriuri/index-tts-vllm

Adicionado suporte ao vLLM ao IndexTTS para inferência mais rápida.

Ksuriuri
⭐ 1,244 Python 👤 Ksuriuri User 🕐 Atualizado 2026-04-13 📅 Criado 2025-05-03
72
eagle-hq/EAGLE-4

Código oficial de inferência do EAGLE-4

eagle-hq
⭐ 1,220 Python 👤 eagle-hq Organization 🕐 Atualizado 2026-11-13 📅 Criado 2026-10-20
73
bricks-cloud/BricksLLM

🔒 Gateway de API de nível empresarial que o ajuda a monitorizar e impor limites de custo ou de taxa por chave de API. Obtenha controlo de acesso e monitorização granular por utilizador, aplicação ou ambiente. Suporta OpenAI, Azure OpenAI, Anthropic, vLLM e LLMs de código aberto.

bricks-cloud
⭐ 1,210 Go 👤 bricks-cloud Organization 🕐 Atualizado 2025-01-05 📅 Criado 2023-07-18
74
jmaczan/tiny-vllm

Construa seu próprio mecanismo de inferência LLM de alto desempenho em C++ e CUDA - uma versão menor do vLLM

jmaczan
⭐ 1,207 C++ 👤 jmaczan User 🕐 Atualizado 2026-11-15 📅 Criado 2026-02-09
75
MoonshotAI/Kimi-VL

Kimi-VL: Modelo de Visão-Linguagem com Mistura de Especialistas para Raciocínio Multimodal, Compreensão de Contexto Longo e Fortes Capacidades de Agente

MoonshotAI
⭐ 1,203 👤 MoonshotAI Organization 🕐 Atualizado 2025-07-15 📅 Criado 2025-04-09
76
BytedTsinghua-SIA/MemAgent

Uma estrutura MemAgent que pode ser extrapolada para 3.5M, juntamente com uma estrutura de treinamento para treinamento de RL de qualquer fluxo de trabalho de agente.

BytedTsinghua-SIA
⭐ 1,118 Python 👤 BytedTsinghua-SIA Organization 🕐 Atualizado 2026-05-12 📅 Criado 2025-06-24
⭐ 1,090 Python 👤 thinking-machines-lab Organization 🕐 Atualizado 2025-11-04 📅 Criado 2025-09-10
78
prometheus-eval/prometheus-eval

Avalie a resposta do seu LLM com Prometheus e GPT4 💯

prometheus-eval
⭐ 1,087 Python 👤 prometheus-eval Organization 🕐 Atualizado 2025-04-25 📅 Criado 2024-04-18
79
GAIR-NLP/LIMO

[COLM 2025] LIMO: Menos é Mais para Raciocínio

GAIR-NLP
⭐ 1,081 Python 👤 GAIR-NLP Organization 🕐 Atualizado 2025-07-30 📅 Criado 2025-02-04
80
Pokee-AI/PokeeResearchOSS

Pokee Deep Research Model Open Source Repo

Pokee-AI
⭐ 1,075 Python 👤 Pokee-AI Organization 🕐 Atualizado 2025-10-22 📅 Criado 2025-10-17
81
Tencent-Hunyuan/UniRL

UniRL é uma estrutura para aprendizado por reforço de modelos multimodais unificados

Tencent-Hunyuan
⭐ 1,051 Python 👤 Tencent-Hunyuan Organization 🕐 Atualizado 2026-11-16 📅 Criado 2026-06-08
83
ZJUI-AI4H/Hulu-Med

Um Modelo Generalista Transparente para a Compreensão Holística de Visão-Linguagem Médica

ZJUI-AI4H
⭐ 1,031 Python 👤 ZJUI-AI4H User 🕐 Atualizado 2026-08-30 📅 Criado 2025-10-08
84
convergence-ai/proxy-lite

Uma versão mini, de pesos abertos, do nosso assistente Proxy.

convergence-ai
⭐ 989 Python 👤 convergence-ai Organization 🕐 Atualizado 2025-02-26 📅 Criado 2025-02-10
86
alvarobartt/hf-mem

Um CLI para estimar os requisitos de memória de inferência para modelos Hugging Face, escrito em Python.

alvarobartt
⭐ 956 Python 👤 alvarobartt User 🕐 Atualizado 2026-11-20 📅 Criado 2025-12-22
87
Valen-Team/Valen

Modelos abertos de decisão multimodal, de 0,8B a 27B, para texto, imagens e vídeo. Tome decisões atribuindo probabilidades aos seus próprios candidatos e localize elementos com caixas delimitadoras, em vez de gerar texto. API gratuita, ONNX, GGUF, vLLM e SGLang; código de ajuste fino incluído.

Valen-Team
⭐ 932 Python 👤 Valen-Team Organization 🕐 Atualizado 2026-11-15 📅 Criado 2026-09-23
88
XHToken/Spark-X2.6

Série de modelos abertos Spark-x2.6. Expandindo os limites das capacidades agênticas dos modelos no dispositivo

XHToken
⭐ 927 👤 XHToken Organization 🕐 Atualizado 2026-11-04 📅 Criado 2026-08-24
89
harleyszhang/llm_note

Notas sobre LLM, incluindo inferência de modelo, estrutura do modelo transformer e notas de análise de código de framework LLM.

harleyszhang
⭐ 897 Python 👤 harleyszhang User 🕐 Atualizado 2026-08-19 📅 Criado 2024-09-18
90
th1nhhdk/local_ai_ocr

Um software OCR local, offline (após a configuração inicial), portátil, que pode processar imagens e arquivos PDF, usando DeepSeek-OCR-2 AI (executando diretamente em sua máquina).

th1nhhdk
⭐ 892 Python 👤 th1nhhdk User 🕐 Atualizado 2026-07-05 📅 Criado 2025-11-21
91
triton-inference-server/tutorials

Este repositório contém tutoriais e exemplos para o Triton Inference Server

triton-inference-server
⭐ 869 Python 👤 triton-inference-server Organization 🕐 Atualizado 2026-11-17 📅 Criado 2022-12-16
92
whitecircle/halo

Halo é um framework de código aberto desenvolvido pela White Circle para treinar modelos de linguagem de grande escala e modelos multimodais

whitecircle
⭐ 868 Python 👤 whitecircle Organization 🕐 Atualizado 2026-11-21 📅 Criado 2026-08-26
93
varunvasudeva1/llm-server-docs

Documentação completa para configurar seu próprio servidor LLM local e totalmente privado no Debian. Equipado com chat, pesquisa na web, RAG, gerenciamento de modelos, servidores MCP, geração de imagens e TTS.

varunvasudeva1
⭐ 853 👤 varunvasudeva1 User 🕐 Atualizado 2026-06-30 📅 Criado 2024-03-26
94
pgalko/BambooAI

Ambiente de trabalho de análise de dados com tecnologia de IA, desenvolvido para oferecer transparência, reprodutibilidade e controle ao usuário. Inspecione o código e as evidências por trás dos resultados, verifique os cálculos reproduzindo-os e escolha entre uma ampla variedade de modelos, incluindo modelos locais de pesos abertos.

pgalko
⭐ 848 Python 👤 pgalko User 🕐 Atualizado 2026-11-20 📅 Criado 2023-05-07
95
TideDra/lmm-r1

Estender o OpenRLHF para suportar o treinamento RL de LMM para a reprodução do DeepSeek-R1 em tarefas multimodais.

TideDra
⭐ 843 Python 👤 TideDra User 🕐 Atualizado 2025-05-14 📅 Criado 2025-02-13
96
jakobdylanc/llmcord

Transforme o Discord na interface do seu LLM

jakobdylanc
⭐ 843 Python 👤 jakobdylanc User 🕐 Atualizado 2026-08-14 📅 Criado 2023-05-08
97
OpenBMB/AgentCPM

Uma infraestrutura de ponta a ponta para treinamento e avaliação de vários agentes LLM.

OpenBMB
⭐ 835 Python 👤 OpenBMB Organization 🕐 Atualizado 2026-10-22 📅 Criado 2026-01-08
98
Tencent-Hunyuan/Hunyuan-A13B

Tencent Hunyuan A13B (resumido como Hunyuan-A13B), um LLM inovador e de código aberto construído sobre uma arquitetura MoE de grão fino.

Tencent-Hunyuan
⭐ 815 Python 👤 Tencent-Hunyuan Organization 🕐 Atualizado 2025-07-08 📅 Criado 2025-06-27
99
ARahim3/kaggle-tpu-lab

Modelos abertos de nível de fronteira em uma TPU v5e-8 gratuita da Kaggle: GLM-5.3-Flash 320B MoE (~165 tokens/s, com nosso próprio mecanismo JAX) e Qwen3.8-27B bf16 (~130 tokens/s), contexto de 262k e cache de prefixos. Funciona com Claude Code, Codex, opencode e pi.

ARahim3
⭐ 812 Python 👤 ARahim3 User 🕐 Atualizado 2026-10-06 📅 Criado 2026-08-31
100
ByteDance-Seed/Seed-Coder

Seed-Coder é uma família de LLMs de código aberto leves, composta por modelos base, de instrução e de raciocínio, desenvolvida pela ByteDance Seed.

ByteDance-Seed
⭐ 755 👤 ByteDance-Seed Organization 🕐 Atualizado 2025-06-06 📅 Criado 2025-04-21