Git Stars Git Stars

#vllm Dépôts

133
Total des Dépôts
554,542
Nombre total d'étoiles
4,169
Moyenne d'Étoiles/Dépôt
Langages de programmation: Python Go HTML C++
51
allenai/Olmo-core

Blocs de construction PyTorch pour l'écosystème OLMo

allenai
⭐ 1,810 Python 👤 allenai Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2024-03-23
52
vllm-project/guidellm

Évaluez et améliorez vos déploiements LLM pour les besoins d'inférence dans le monde réel

vllm-project
⭐ 1,800 Python 👤 vllm-project Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2024-05-29
53
StartLuxLabs/StartLux-Decision

Modèles de décision ouverts de 0,8B à 27B : une probabilité calibrée pour chaque option en un seul passage, et un bref raisonnement uniquement en cas d’incertitude. Moteur pour vLLM, llama.cpp et MLX.

StartLuxLabs
⭐ 1,780 Python 👤 StartLuxLabs Organization 🕐 Mis à jour 2026-10-23 📅 Créé 2026-09-29
54
intel/auto-round

Efficacité de la quantification après entraînement, précision de la quantification avec entraînement conscient

intel
⭐ 1,706 Python 👤 intel Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2024-01-04
56
waybarrios/vllm-mlx

Serveur d'inférence LLM haute performance compatible OpenAI et Anthropic pour Apple Silicon. MLX natif, traitement par lots continu, modèles multimodaux, appels d'outils MCP et prise en charge de Claude Code.

waybarrios
⭐ 1,657 Python 👤 waybarrios User 🕐 Mis à jour 2026-11-07 📅 Créé 2025-12-06
57
nokia-applied-research/AnyJev

Transformez n’importe quel LLM en un modèle de décision de type Jev : décisions typées, probabilités réelles, sans entraînement. (Mises à jour continues ; vos signalements de problèmes et demandes de PR sont les bienvenus)

nokia-applied-research
⭐ 1,632 Python 👤 nokia-applied-research Organization 🕐 Mis à jour 2026-10-21 📅 Créé 2026-09-21
58
autonomous-ai/Personal-AI-Computer

Configurations d’ordinateurs IA open source, des PC de bureau à 2 GPU aux serveurs à 8 GPU : fichiers CAO, nomenclature, BIOS et guides de montage. Procurez-vous le kit de boîtier avec risers PCIe ou demandez-nous une vérification gratuite de compatibilité.

autonomous-ai
⭐ 1,601 👤 autonomous-ai Organization 🕐 Mis à jour 2026-11-05 📅 Créé 2025-08-22
⭐ 1,599 Python 👤 databricks Organization 🕐 Mis à jour 2026-03-25 📅 Créé 2023-01-26
61
tencent-ailab/persona-hub

Repo officiel pour l'article « Scaling Synthetic Data Creation with 1,000,000,000 Personas »

tencent-ailab
⭐ 1,585 Python 👤 tencent-ailab User 🕐 Mis à jour 2025-02-19 📅 Créé 2024-06-22
62
verl-project/verl-omni

Cadre d'entraînement RL multimodal pour modèles de diffusion et omni

verl-project
⭐ 1,560 Python 👤 verl-project Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2026-04-21
64
BICLab/SpikingBrain-7B

Modèles larges inspirés du cerveau à impulsions (spiking), intégrant une attention hybride efficace, des modules MoE et l'encodage par impulsions dans leur architecture

BICLab
⭐ 1,432 Python 👤 BICLab User 🕐 Mis à jour 2026-05-14 📅 Créé 2025-09-03
65
MoonshotAI/Kimi-Dev

LLM de codage open-source pour les tâches d'ingénierie logicielle

MoonshotAI
⭐ 1,357 Python 👤 MoonshotAI Organization 🕐 Mis à jour 2025-09-30 📅 Créé 2025-06-16
66
ModelCloud/GPTQModel

Boîte à outils de quantification (compression) de modèles LLM, avec prise en charge de l’accélération matérielle pour Nvidia CUDA, AMD ROCm, Intel XPU, Tenstorrent, les NPU Huawei Ascend et les processeurs Intel/AMD/Apple via HF, vLLM et SGLang.

ModelCloud
⭐ 1,294 Python 👤 ModelCloud Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2024-06-17
67
kubeai-project/kubeai

Opérateur d'inférence IA pour Kubernetes. Le moyen le plus simple de servir des modèles ML en production. Prend en charge les VLM, LLM, les embeddings et la reconnaissance vocale.

kubeai-project
⭐ 1,294 Go 👤 kubeai-project Organization 🕐 Mis à jour 2026-11-16 📅 Créé 2023-10-21
⭐ 1,293 Python 👤 Visual-Agent Organization 🕐 Mis à jour 2025-11-20 📅 Créé 2025-03-15
69
OpenBuddy/OpenBuddy

Chatbot multilingue ouvert pour tous

OpenBuddy
⭐ 1,274 👤 OpenBuddy Organization 🕐 Mis à jour 2025-06-08 📅 Créé 2023-04-26
70
patchy631/time-to-first-token

Une feuille de route sur 10 semaines, à raison de 30 minutes par jour, pour le déploiement et l’optimisation de l’inférence des LLM. vLLM, SGLang, quantification, décodage spéculatif et évaluation comparative.

patchy631
⭐ 1,245 HTML 👤 patchy631 User 🕐 Mis à jour 2026-08-14 📅 Créé 2026-08-02
71
Ksuriuri/index-tts-vllm

Ajout du support vLLM à IndexTTS pour une inférence plus rapide.

Ksuriuri
⭐ 1,244 Python 👤 Ksuriuri User 🕐 Mis à jour 2026-04-13 📅 Créé 2025-05-03
72
eagle-hq/EAGLE-4

Code officiel d’inférence d’EAGLE-4

eagle-hq
⭐ 1,220 Python 👤 eagle-hq Organization 🕐 Mis à jour 2026-11-13 📅 Créé 2026-10-20
73
bricks-cloud/BricksLLM

☁️ Passerelle API de niveau entreprise qui vous aide à surveiller et à imposer des limites de coût ou de taux par clé API. Obtenez un contrôle d'accès granulaire et une surveillance par utilisateur, application ou environnement. Prend en charge OpenAI, Azure OpenAI, Anthropic, vLLM et les LLM open-source.

bricks-cloud
⭐ 1,210 Go 👤 bricks-cloud Organization 🕐 Mis à jour 2025-01-05 📅 Créé 2023-07-18
74
jmaczan/tiny-vllm

Construisez votre propre moteur d'inférence LLM haute performance en C++ et CUDA - une version plus petite de vLLM

jmaczan
⭐ 1,207 C++ 👤 jmaczan User 🕐 Mis à jour 2026-11-15 📅 Créé 2026-02-09
75
MoonshotAI/Kimi-VL

Kimi-VL : Modèle Vision-Langage Mixture-of-Experts pour le Raisonnement Multimodal, la Compréhension du Long Contexte et de Fortes Capacités d'Agent

MoonshotAI
⭐ 1,203 👤 MoonshotAI Organization 🕐 Mis à jour 2025-07-15 📅 Créé 2025-04-09
76
BytedTsinghua-SIA/MemAgent

Un framework MemAgent extensible à 3,5 millions, ainsi qu'un framework d'entraînement pour l'entraînement RL de tout flux de travail d'agent.

BytedTsinghua-SIA
⭐ 1,118 Python 👤 BytedTsinghua-SIA Organization 🕐 Mis à jour 2026-05-12 📅 Créé 2025-06-24
⭐ 1,090 Python 👤 thinking-machines-lab Organization 🕐 Mis à jour 2025-11-04 📅 Créé 2025-09-10
78
prometheus-eval/prometheus-eval

Évaluez la réponse de votre LLM avec Prometheus et GPT4 💯

prometheus-eval
⭐ 1,087 Python 👤 prometheus-eval Organization 🕐 Mis à jour 2025-04-25 📅 Créé 2024-04-18
79
GAIR-NLP/LIMO

[COLM 2025] LIMO : Less is More pour le Raisonnement

GAIR-NLP
⭐ 1,081 Python 👤 GAIR-NLP Organization 🕐 Mis à jour 2025-07-30 📅 Créé 2025-02-04
80
Pokee-AI/PokeeResearchOSS

Pokee Deep Research Model Open Source Repo

Pokee-AI
⭐ 1,075 Python 👤 Pokee-AI Organization 🕐 Mis à jour 2025-10-22 📅 Créé 2025-10-17
81
Tencent-Hunyuan/UniRL

UniRL est un cadre pour l'apprentissage par renforcement de modèles multimodaux unifiés

Tencent-Hunyuan
⭐ 1,051 Python 👤 Tencent-Hunyuan Organization 🕐 Mis à jour 2026-11-16 📅 Créé 2026-06-08
83
ZJUI-AI4H/Hulu-Med

Un modèle généraliste transparent pour une compréhension holistique vision-langage médicale

ZJUI-AI4H
⭐ 1,031 Python 👤 ZJUI-AI4H User 🕐 Mis à jour 2026-08-30 📅 Créé 2025-10-08
84
convergence-ai/proxy-lite

Une version mini, à poids ouverts, de notre assistant Proxy.

convergence-ai
⭐ 989 Python 👤 convergence-ai Organization 🕐 Mis à jour 2025-02-26 📅 Créé 2025-02-10
86
alvarobartt/hf-mem

Un CLI pour estimer les exigences en mémoire d'inférence des modèles Hugging Face, écrit en Python.

alvarobartt
⭐ 956 Python 👤 alvarobartt User 🕐 Mis à jour 2026-11-20 📅 Créé 2025-12-22
87
Valen-Team/Valen

Modèles ouverts de décision multimodale, de 0,8B à 27B, pour le texte, les images et la vidéo. Prenez des décisions en attribuant des probabilités à vos propres candidats et localisez avec des cadres de délimitation, plutôt que de générer du texte. API gratuite, ONNX, GGUF, vLLM et SGLang ; code de fine-tuning inclus.

Valen-Team
⭐ 932 Python 👤 Valen-Team Organization 🕐 Mis à jour 2026-11-15 📅 Créé 2026-09-23
88
XHToken/Spark-X2.6

Série de modèles ouverts Spark-x2.6. Repousser les limites des capacités agentiques des modèles embarqués

XHToken
⭐ 927 👤 XHToken Organization 🕐 Mis à jour 2026-11-04 📅 Créé 2026-08-24
89
harleyszhang/llm_note

Notes sur les LLM, y compris l'inférence de modèle, la structure du modèle Transformer et les notes d'analyse du code de framework LLM.

harleyszhang
⭐ 897 Python 👤 harleyszhang User 🕐 Mis à jour 2026-08-19 📅 Créé 2024-09-18
90
th1nhhdk/local_ai_ocr

Un logiciel OCR local, hors ligne (après configuration initiale), portable, capable de traiter des images et des fichiers PDF, utilisant DeepSeek-OCR-2 AI (fonctionnant directement sur votre machine).

th1nhhdk
⭐ 892 Python 👤 th1nhhdk User 🕐 Mis à jour 2026-07-05 📅 Créé 2025-11-21
91
triton-inference-server/tutorials

Ce dépôt contient des tutoriels et des exemples pour Triton Inference Server

triton-inference-server
⭐ 869 Python 👤 triton-inference-server Organization 🕐 Mis à jour 2026-11-17 📅 Créé 2022-12-16
92
whitecircle/halo

Halo est un framework open source développé par White Circle pour entraîner des modèles de langage de grande taille et des modèles multimodaux

whitecircle
⭐ 868 Python 👤 whitecircle Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2026-08-26
93
varunvasudeva1/llm-server-docs

Documentation de bout en bout pour configurer votre propre serveur LLM local et entièrement privé sur Debian. Équipé de chat, de recherche web, de RAG, de gestion de modèles, de serveurs MCP, de génération d'images et de TTS.

varunvasudeva1
⭐ 853 👤 varunvasudeva1 User 🕐 Mis à jour 2026-06-30 📅 Créé 2024-03-26
94
pgalko/BambooAI

Un espace de travail d’analyse de données propulsé par l’IA, conçu pour assurer la transparence, la reproductibilité et le contrôle de l’utilisateur. Examinez le code et les éléments qui étayent les résultats, vérifiez les calculs en les rejouant et choisissez parmi une vaste gamme de modèles, y compris des modèles locaux à poids ouverts.

pgalko
⭐ 848 Python 👤 pgalko User 🕐 Mis à jour 2026-11-20 📅 Créé 2023-05-07
95
TideDra/lmm-r1

Étendre OpenRLHF pour prendre en charge l'entraînement LMM RL pour la reproduction de DeepSeek-R1 sur des tâches multimodales.

TideDra
⭐ 843 Python 👤 TideDra User 🕐 Mis à jour 2025-05-14 📅 Créé 2025-02-13
96
jakobdylanc/llmcord

Faites de Discord l’interface de votre LLM

jakobdylanc
⭐ 843 Python 👤 jakobdylanc User 🕐 Mis à jour 2026-08-14 📅 Créé 2023-05-08
97
OpenBMB/AgentCPM

Une infrastructure de bout en bout pour former et évaluer divers agents LLM.

OpenBMB
⭐ 835 Python 👤 OpenBMB Organization 🕐 Mis à jour 2026-10-22 📅 Créé 2026-01-08
98
Tencent-Hunyuan/Hunyuan-A13B

Tencent Hunyuan A13B (abrégé Hunyuan-A13B), un LLM innovant et open-source construit sur une architecture MoE à grain fin.

Tencent-Hunyuan
⭐ 815 Python 👤 Tencent-Hunyuan Organization 🕐 Mis à jour 2025-07-08 📅 Créé 2025-06-27
99
ARahim3/kaggle-tpu-lab

Modèles ouverts de niveau frontière sur un TPU v5e-8 gratuit de Kaggle : GLM-5.3-Flash 320B MoE (~165 tok/s, avec notre propre moteur JAX) et Qwen3.8-27B bf16 (~130 tok/s), contexte de 262k et mise en cache des préfixes. Compatible avec Claude Code, Codex, opencode et pi.

ARahim3
⭐ 812 Python 👤 ARahim3 User 🕐 Mis à jour 2026-10-06 📅 Créé 2026-08-31
100
ByteDance-Seed/Seed-Coder

Seed-Coder est une famille de LLM open-source légers pour le code, comprenant des modèles de base, d'instruction et de raisonnement, développés par ByteDance Seed.

ByteDance-Seed
⭐ 755 👤 ByteDance-Seed Organization 🕐 Mis à jour 2025-06-06 📅 Créé 2025-04-21