Git Stars Git Stars

#vllm Repositorios

133
Total de Repositorios
554,542
Total de estrellas
4,169
Promedio de Estrellas/Repo
Lenguajes de programación: Python Go HTML C++

134 repositorios en total

51
allenai/Olmo-core

Bloques de construcción de PyTorch para el ecosistema OLMo

allenai
⭐ 1,810 Python 👤 allenai Organization 🕐 Actualizado 2026-11-21 📅 Creado 2024-03-23
52
vllm-project/guidellm

Evalúe y mejore sus implementaciones de LLM para necesidades de inferencia en el mundo real

vllm-project
⭐ 1,800 Python 👤 vllm-project Organization 🕐 Actualizado 2026-11-21 📅 Creado 2024-05-29
53
StartLuxLabs/StartLux-Decision

Modelos de decisión abiertos de 0,8B a 27B: una probabilidad calibrada para cada opción en una sola pasada y un razonamiento breve solo cuando haya incertidumbre. Motor para vLLM, llama.cpp y MLX.

StartLuxLabs
⭐ 1,780 Python 👤 StartLuxLabs Organization 🕐 Actualizado 2026-10-23 📅 Creado 2026-09-29
54
intel/auto-round

Eficiencia de la cuantización posterior al entrenamiento, precisión de la cuantización con entrenamiento consciente

intel
⭐ 1,706 Python 👤 intel Organization 🕐 Actualizado 2026-11-21 📅 Creado 2024-01-04
56
waybarrios/vllm-mlx

Servidor de inferencia de LLM de alto rendimiento compatible con OpenAI y Anthropic para Apple Silicon. MLX nativo, procesamiento por lotes continuo, modelos multimodales, llamadas a herramientas MCP y soporte para Claude Code.

waybarrios
⭐ 1,657 Python 👤 waybarrios User 🕐 Actualizado 2026-11-07 📅 Creado 2025-12-06
57
nokia-applied-research/AnyJev

Convierte cualquier LLM en un modelo de decisión al estilo Jev: decisiones tipadas, probabilidades reales y sin entrenamiento. (Seguimos actualizando; agradecemos cualquier reporte de problemas y solicitud de PR)

nokia-applied-research
⭐ 1,632 Python 👤 nokia-applied-research Organization 🕐 Actualizado 2026-10-21 📅 Creado 2026-09-21
58
autonomous-ai/Personal-AI-Computer

Configuraciones de ordenadores de IA de código abierto, desde equipos de sobremesa con 2 GPU hasta servidores con 8 GPU: CAD, lista de materiales, BIOS y guías de montaje. Consigue el kit de caja con risers PCIe o pídenos una comprobación gratuita de compatibilidad.

autonomous-ai
⭐ 1,601 👤 autonomous-ai Organization 🕐 Actualizado 2026-11-05 📅 Creado 2025-08-22
⭐ 1,599 Python 👤 databricks Organization 🕐 Actualizado 2026-03-25 📅 Creado 2023-01-26
61
tencent-ailab/persona-hub

Repositorio oficial del artículo "Scaling Synthetic Data Creation with 1,000,000,000 Personas"

tencent-ailab
⭐ 1,585 Python 👤 tencent-ailab User 🕐 Actualizado 2025-02-19 📅 Creado 2024-06-22
62
verl-project/verl-omni

Marco de entrenamiento de RL multimodal para modelos de difusión y omni

verl-project
⭐ 1,560 Python 👤 verl-project Organization 🕐 Actualizado 2026-11-21 📅 Creado 2026-04-21
64
BICLab/SpikingBrain-7B

Grandes Modelos de Spiking inspirados en el Cerebro, que integran atención híbrida eficiente, módulos MoE y codificación de espigas en su arquitectura

BICLab
⭐ 1,432 Python 👤 BICLab User 🕐 Actualizado 2026-05-14 📅 Creado 2025-09-03
65
MoonshotAI/Kimi-Dev

LLM de codificación de código abierto para tareas de ingeniería de software

MoonshotAI
⭐ 1,357 Python 👤 MoonshotAI Organization 🕐 Actualizado 2025-09-30 📅 Creado 2025-06-16
66
ModelCloud/GPTQModel

Kit de herramientas para la cuantización (compresión) de modelos LLM, con aceleración por hardware para Nvidia CUDA, AMD ROCm, Intel XPU, Tenstorrent, NPU Huawei Ascend y CPU Intel/AMD/Apple mediante HF, vLLM y SGLang.

ModelCloud
⭐ 1,294 Python 👤 ModelCloud Organization 🕐 Actualizado 2026-11-21 📅 Creado 2024-06-17
67
kubeai-project/kubeai

Operador de inferencia de IA para Kubernetes. La forma más sencilla de servir modelos de ML en producción. Soporta VLMs, LLMs, embeddings y voz a texto.

kubeai-project
⭐ 1,294 Go 👤 kubeai-project Organization 🕐 Actualizado 2026-11-16 📅 Creado 2023-10-21
⭐ 1,293 Python 👤 Visual-Agent Organization 🕐 Actualizado 2025-11-20 📅 Creado 2025-03-15
69
OpenBuddy/OpenBuddy

Chatbot multilingüe abierto para todos

OpenBuddy
⭐ 1,274 👤 OpenBuddy Organization 🕐 Actualizado 2025-06-08 📅 Creado 2023-04-26
70
patchy631/time-to-first-token

Una hoja de ruta de 10 semanas, dedicando 30 minutos al día, para el servicio y la optimización de inferencia de LLM. vLLM, SGLang, cuantización, decodificación especulativa y evaluación comparativa.

patchy631
⭐ 1,245 HTML 👤 patchy631 User 🕐 Actualizado 2026-08-14 📅 Creado 2026-08-02
71
Ksuriuri/index-tts-vllm

Se agregó el soporte de vLLM a IndexTTS para una inferencia más rápida.

Ksuriuri
⭐ 1,244 Python 👤 Ksuriuri User 🕐 Actualizado 2026-04-13 📅 Creado 2025-05-03
72
eagle-hq/EAGLE-4

Código oficial de inferencia de EAGLE-4

eagle-hq
⭐ 1,220 Python 👤 eagle-hq Organization 🕐 Actualizado 2026-11-13 📅 Creado 2026-10-20
73
bricks-cloud/BricksLLM

☁️ Pasarela API de nivel empresarial que te ayuda a monitorizar e imponer límites de costes o de tarifas por clave API. Obtén control de acceso granular y monitorización por usuario, aplicación o entorno. Soporta OpenAI, Azure OpenAI, Anthropic, vLLM y LLM de código abierto.

bricks-cloud
⭐ 1,210 Go 👤 bricks-cloud Organization 🕐 Actualizado 2025-01-05 📅 Creado 2023-07-18
74
jmaczan/tiny-vllm

Construye tu propio motor de inferencia LLM de alto rendimiento en C++ y CUDA - una versión más pequeña de vLLM

jmaczan
⭐ 1,207 C++ 👤 jmaczan User 🕐 Actualizado 2026-11-15 📅 Creado 2026-02-09
75
MoonshotAI/Kimi-VL

Kimi-VL: Modelo Visión-Lenguaje de Mezcla de Expertos para Razonamiento Multimodal, Comprensión de Largo Contexto y Fuertes Capacidades de Agente

MoonshotAI
⭐ 1,203 👤 MoonshotAI Organization 🕐 Actualizado 2025-07-15 📅 Creado 2025-04-09
76
BytedTsinghua-SIA/MemAgent

Un marco MemAgent que se puede extrapolar a 3,5 millones, junto con un marco de entrenamiento para el entrenamiento de RL de cualquier flujo de trabajo de agente.

BytedTsinghua-SIA
⭐ 1,118 Python 👤 BytedTsinghua-SIA Organization 🕐 Actualizado 2026-05-12 📅 Creado 2025-06-24
⭐ 1,090 Python 👤 thinking-machines-lab Organization 🕐 Actualizado 2025-11-04 📅 Creado 2025-09-10
78
prometheus-eval/prometheus-eval

Evalúa la respuesta de tu LLM con Prometheus y GPT4 💯

prometheus-eval
⭐ 1,087 Python 👤 prometheus-eval Organization 🕐 Actualizado 2025-04-25 📅 Creado 2024-04-18
79
GAIR-NLP/LIMO

[COLM 2025] LIMO: Menos es más para el razonamiento

GAIR-NLP
⭐ 1,081 Python 👤 GAIR-NLP Organization 🕐 Actualizado 2025-07-30 📅 Creado 2025-02-04
80
Pokee-AI/PokeeResearchOSS

Repositorio de código abierto del modelo de investigación profunda de Pokee

Pokee-AI
⭐ 1,075 Python 👤 Pokee-AI Organization 🕐 Actualizado 2025-10-22 📅 Creado 2025-10-17
81
Tencent-Hunyuan/UniRL

UniRL es un marco de trabajo para el aprendizaje por refuerzo de modelos multimodales unificados

Tencent-Hunyuan
⭐ 1,051 Python 👤 Tencent-Hunyuan Organization 🕐 Actualizado 2026-11-16 📅 Creado 2026-06-08
83
ZJUI-AI4H/Hulu-Med

Un Modelo Generalista Transparente hacia la Comprensión Holística Visión-Lenguaje Médica

ZJUI-AI4H
⭐ 1,031 Python 👤 ZJUI-AI4H User 🕐 Actualizado 2026-08-30 📅 Creado 2025-10-08
84
convergence-ai/proxy-lite

Una versión mini, de pesos abiertos, de nuestro asistente Proxy.

convergence-ai
⭐ 989 Python 👤 convergence-ai Organization 🕐 Actualizado 2025-02-26 📅 Creado 2025-02-10
86
alvarobartt/hf-mem

Una CLI para estimar los requisitos de memoria de inferencia para modelos de Hugging Face, escrita en Python.

alvarobartt
⭐ 956 Python 👤 alvarobartt User 🕐 Actualizado 2026-11-20 📅 Creado 2025-12-22
87
Valen-Team/Valen

Modelos abiertos de decisión multimodal, de 0,8B a 27B, para texto, imágenes y vídeo. Decide asignando probabilidades a tus propios candidatos y localiza con cuadros delimitadores, en lugar de generar texto. API gratuita, ONNX, GGUF, vLLM y SGLang; incluye código de ajuste fino.

Valen-Team
⭐ 932 Python 👤 Valen-Team Organization 🕐 Actualizado 2026-11-15 📅 Creado 2026-09-23
88
XHToken/Spark-X2.6

Serie de modelos abiertos Spark-x2.6. Ampliando los límites de las capacidades agénticas en los modelos en dispositivo

XHToken
⭐ 927 👤 XHToken Organization 🕐 Actualizado 2026-11-04 📅 Creado 2026-08-24
89
harleyszhang/llm_note

Notas de LLM, incluida la inferencia del modelo, la estructura del modelo Transformer y notas de análisis de código del framework LLM.

harleyszhang
⭐ 897 Python 👤 harleyszhang User 🕐 Actualizado 2026-08-19 📅 Creado 2024-09-18
90
th1nhhdk/local_ai_ocr

Un software OCR local, sin conexión (después de la configuración inicial), portátil, que puede procesar imágenes y archivos PDF, utilizando DeepSeek-OCR-2 AI (ejecutándose directamente en su máquina).

th1nhhdk
⭐ 892 Python 👤 th1nhhdk User 🕐 Actualizado 2026-07-05 📅 Creado 2025-11-21
91
triton-inference-server/tutorials

Este repositorio contiene tutoriales y ejemplos para Triton Inference Server

triton-inference-server
⭐ 869 Python 👤 triton-inference-server Organization 🕐 Actualizado 2026-11-17 📅 Creado 2022-12-16
92
whitecircle/halo

Halo es un marco de código abierto desarrollado por White Circle para entrenar modelos de lenguaje de gran tamaño y modelos multimodales

whitecircle
⭐ 868 Python 👤 whitecircle Organization 🕐 Actualizado 2026-11-21 📅 Creado 2026-08-26
93
varunvasudeva1/llm-server-docs

Documentación de extremo a extremo para configurar su propio servidor LLM local y totalmente privado en Debian. Equipado con chat, búsqueda web, RAG, gestión de modelos, servidores MCP, generación de imágenes y TTS.

varunvasudeva1
⭐ 853 👤 varunvasudeva1 User 🕐 Actualizado 2026-06-30 📅 Creado 2024-03-26
94
pgalko/BambooAI

Banco de trabajo de análisis de datos impulsado por IA, diseñado para ofrecer transparencia, reproducibilidad y control al usuario. Inspecciona el código y las pruebas que respaldan los resultados, verifica los cálculos mediante su reproducción y elige entre una amplia variedad de modelos, incluidos modelos locales de pesos abiertos.

pgalko
⭐ 848 Python 👤 pgalko User 🕐 Actualizado 2026-11-20 📅 Creado 2023-05-07
95
TideDra/lmm-r1

Extender OpenRLHF para admitir el entrenamiento LMM RL para la reproducción de DeepSeek-R1 en tareas multimodales.

TideDra
⭐ 843 Python 👤 TideDra User 🕐 Actualizado 2025-05-14 📅 Creado 2025-02-13
96
jakobdylanc/llmcord

Convierte Discord en la interfaz de tu LLM

jakobdylanc
⭐ 843 Python 👤 jakobdylanc User 🕐 Actualizado 2026-08-14 📅 Creado 2023-05-08
97
OpenBMB/AgentCPM

Una infraestructura de extremo a extremo para entrenar y evaluar diversos agentes LLM.

OpenBMB
⭐ 835 Python 👤 OpenBMB Organization 🕐 Actualizado 2026-10-22 📅 Creado 2026-01-08
98
Tencent-Hunyuan/Hunyuan-A13B

Tencent Hunyuan A13B (en adelante Hunyuan-A13B), un LLM innovador y de código abierto construido sobre una arquitectura MoE de grano fino.

Tencent-Hunyuan
⭐ 815 Python 👤 Tencent-Hunyuan Organization 🕐 Actualizado 2025-07-08 📅 Creado 2025-06-27
99
ARahim3/kaggle-tpu-lab

Modelos abiertos de nivel frontera en una TPU v5e-8 gratuita de Kaggle: GLM-5.3-Flash 320B MoE (~165 tokens/s, con nuestro propio motor JAX) y Qwen3.8-27B bf16 (~130 tokens/s), contexto de 262k y caché de prefijos. Funciona con Claude Code, Codex, opencode y pi.

ARahim3
⭐ 812 Python 👤 ARahim3 User 🕐 Actualizado 2026-10-06 📅 Creado 2026-08-31
100
ByteDance-Seed/Seed-Coder

Seed-Coder es una familia de LLM de código abierto ligeros que comprende modelos base, instruct y de razonamiento, desarrollados por ByteDance Seed.

ByteDance-Seed
⭐ 755 👤 ByteDance-Seed Organization 🕐 Actualizado 2025-06-06 📅 Creado 2025-04-21