Git Stars Git Stars

#vllm リポジトリ

133
リポジトリ総数
554,542
合計スター数
4,169
リポジトリあたりの平均スター数
プログラミング言語: Python Go HTML C++

リポジトリ合計134件

51
allenai/Olmo-core

OLMoエコシステムのためのPyTorchビルディングブロック

allenai
⭐ 1,810 Python 👤 allenai Organization 🕐 更新日時 2026-11-21 📅 作成日 2024-03-23
52
vllm-project/guidellm

実際の推論ニーズに合わせてLLMデプロイメントを評価および強化する

vllm-project
⭐ 1,800 Python 👤 vllm-project Organization 🕐 更新日時 2026-11-21 📅 作成日 2024-05-29
53
StartLuxLabs/StartLux-Decision

0.8B〜27Bのオープンな意思決定モデル:1回の処理で各選択肢の確率を適切に較正して提示し、不確かな場合にのみ短い思考を示します。vLLM、llama.cpp、MLX向けエンジン。

StartLuxLabs
⭐ 1,780 Python 👤 StartLuxLabs Organization 🕐 更新日時 2026-10-23 📅 作成日 2026-09-29
54
intel/auto-round

PTQレベルの効率性、QATレベルの精度

intel
⭐ 1,706 Python 👤 intel Organization 🕐 更新日時 2026-11-21 📅 作成日 2024-01-04
56
waybarrios/vllm-mlx

Apple Silicon 向けの高性能な OpenAI および Anthropic 互換 LLM 推論サーバー。ネイティブ MLX、継続的バッチ処理、マルチモーダルモデル、MCP ツール呼び出し、Claude Code サポート。

waybarrios
⭐ 1,657 Python 👤 waybarrios User 🕐 更新日時 2026-11-07 📅 作成日 2025-12-06
57
nokia-applied-research/AnyJev

あらゆる LLM を Jev スタイルの意思決定モデルに変える:型付き意思決定、現実的な確率、トレーニング不要。(継続的に更新中。問題の報告や PR のリクエストを歓迎します)

nokia-applied-research
⭐ 1,632 Python 👤 nokia-applied-research Organization 🕐 更新日時 2026-10-21 📅 作成日 2026-09-21
58
autonomous-ai/Personal-AI-Computer

オープンソースのAIコンピューター構成をご紹介。GPU 2基搭載のデスクトップから8基搭載のサーバーまで、CAD、部品表、BIOS設定、組み立てガイドを提供します。PCIeライザー付きケースキットをお求めいただくか、無料の適合確認をお問い合わせください。

autonomous-ai
⭐ 1,601 👤 autonomous-ai Organization 🕐 更新日時 2026-11-05 📅 作成日 2025-08-22
⭐ 1,599 Python 👤 databricks Organization 🕐 更新日時 2026-03-25 📅 作成日 2023-01-26
61
tencent-ailab/persona-hub

論文「1,000,000,000のペルソナによる合成データ作成のスケーリング」の公式リポジトリ

tencent-ailab
⭐ 1,585 Python 👤 tencent-ailab User 🕐 更新日時 2025-02-19 📅 作成日 2024-06-22
62
verl-project/verl-omni

拡散モデルおよびオムニモデル向けのマルチモーダルRLトレーニングフレームワーク

verl-project
⭐ 1,560 Python 👤 verl-project Organization 🕐 更新日時 2026-11-21 📅 作成日 2026-04-21
64
BICLab/SpikingBrain-7B

ハイブリッド効率的アテンション、MoEモジュール、スパイクエンコーディングをアーキテクチャに統合した、スパイク型脳型大規模モデル

BICLab
⭐ 1,432 Python 👤 BICLab User 🕐 更新日時 2026-05-14 📅 作成日 2025-09-03
65
MoonshotAI/Kimi-Dev

ソフトウェアエンジニアリングタスクのためのオープンソースコーディングLLM

MoonshotAI
⭐ 1,357 Python 👤 MoonshotAI Organization 🕐 更新日時 2025-09-30 📅 作成日 2025-06-16
66
ModelCloud/GPTQModel

HF、vLLM、SGLangを介して、Nvidia CUDA、AMD ROCm、Intel XPU、Tenstorrent、Huawei Ascend NPU、およびIntel/AMD/Apple CPUのハードウェアアクセラレーションに対応する、LLMモデルの量子化(圧縮)ツールキット。

ModelCloud
⭐ 1,294 Python 👤 ModelCloud Organization 🕐 更新日時 2026-11-21 📅 作成日 2024-06-17
67
kubeai-project/kubeai

Kubernetes 用 AI 推論オペレーター。本番環境で ML モデルを提供する最も簡単な方法。 VLM、LLM、埋め込み、音声テキスト変換をサポートします。

kubeai-project
⭐ 1,294 Go 👤 kubeai-project Organization 🕐 更新日時 2026-11-16 📅 作成日 2023-10-21
⭐ 1,293 Python 👤 Visual-Agent Organization 🕐 更新日時 2025-11-20 📅 作成日 2025-03-15
69
OpenBuddy/OpenBuddy

みんなのためのオープン多言語チャットボット

OpenBuddy
⭐ 1,274 👤 OpenBuddy Organization 🕐 更新日時 2025-06-08 📅 作成日 2023-04-26
70
patchy631/time-to-first-token

LLM推論のサービングと最適化のための、1日30分・10週間のロードマップ。vLLM、SGLang、量子化、推測デコーディング、ベンチマーク。

patchy631
⭐ 1,245 HTML 👤 patchy631 User 🕐 更新日時 2026-08-14 📅 作成日 2026-08-02
71
Ksuriuri/index-tts-vllm

推論を高速化するために IndexTTS に vLLM サポートを追加しました。

Ksuriuri
⭐ 1,244 Python 👤 Ksuriuri User 🕐 更新日時 2026-04-13 📅 作成日 2025-05-03
72
eagle-hq/EAGLE-4

EAGLE-4の公式推論コード

eagle-hq
⭐ 1,220 Python 👤 eagle-hq Organization 🕐 更新日時 2026-11-13 📅 作成日 2026-10-20
73
bricks-cloud/BricksLLM

☁️ 企業レベルのAPIゲートウェイで、APIキーごとにコストまたはレート制限を監視および強制できます。ユーザー、アプリケーション、または環境ごとに詳細なアクセス制御と監視を取得します。OpenAI、Azure OpenAI、Anthropic、vLLM、およびオープンソースLLMをサポートします。

bricks-cloud
⭐ 1,210 Go 👤 bricks-cloud Organization 🕐 更新日時 2025-01-05 📅 作成日 2023-07-18
74
jmaczan/tiny-vllm

C++とCUDAで独自の高性能LLM推論エンジンを構築 - vLLMの小型版

jmaczan
⭐ 1,207 C++ 👤 jmaczan User 🕐 更新日時 2026-11-15 📅 作成日 2026-02-09
75
MoonshotAI/Kimi-VL

Kimi-VL:マルチモーダル推論、長文脈理解、強力なエージェント機能のためのMixture-of-Expertsビジョン言語モデル

MoonshotAI
⭐ 1,203 👤 MoonshotAI Organization 🕐 更新日時 2025-07-15 📅 作成日 2025-04-09
76
BytedTsinghua-SIA/MemAgent

3.5Mに拡張可能なMemAgentフレームワークと、あらゆるエージェントワークフローのRLトレーニングのためのトレーニングフレームワーク。

BytedTsinghua-SIA
⭐ 1,118 Python 👤 BytedTsinghua-SIA Organization 🕐 更新日時 2026-05-12 📅 作成日 2025-06-24
⭐ 1,090 Python 👤 thinking-machines-lab Organization 🕐 更新日時 2025-11-04 📅 作成日 2025-09-10
78
prometheus-eval/prometheus-eval

PrometheusとGPT4でLLMの応答を評価します 💯

prometheus-eval
⭐ 1,087 Python 👤 prometheus-eval Organization 🕐 更新日時 2025-04-25 📅 作成日 2024-04-18
79
GAIR-NLP/LIMO

[COLM 2025] LIMO: 推論のための「少ないほど豊か」(Less is More)

GAIR-NLP
⭐ 1,081 Python 👤 GAIR-NLP Organization 🕐 更新日時 2025-07-30 📅 作成日 2025-02-04
80
Pokee-AI/PokeeResearchOSS

Pokeeディープリサーチモデルオープンソースリポジトリ

Pokee-AI
⭐ 1,075 Python 👤 Pokee-AI Organization 🕐 更新日時 2025-10-22 📅 作成日 2025-10-17
81
Tencent-Hunyuan/UniRL

UniRLは、統合マルチモーダルモデル強化学習のためのフレームワークです

Tencent-Hunyuan
⭐ 1,051 Python 👤 Tencent-Hunyuan Organization 🕐 更新日時 2026-11-16 📅 作成日 2026-06-08
83
ZJUI-AI4H/Hulu-Med

包括的な医療視覚言語理解に向けた透明な汎用モデル

ZJUI-AI4H
⭐ 1,031 Python 👤 ZJUI-AI4H User 🕐 更新日時 2026-08-30 📅 作成日 2025-10-08
84
convergence-ai/proxy-lite

プロキシアシスタントのミニ、オープンウェイトバージョンです。

convergence-ai
⭐ 989 Python 👤 convergence-ai Organization 🕐 更新日時 2025-02-26 📅 作成日 2025-02-10
86
alvarobartt/hf-mem

Pythonで書かれた、Hugging Faceモデルの推論メモリ要件を推定するCLIです。

alvarobartt
⭐ 956 Python 👤 alvarobartt User 🕐 更新日時 2026-11-20 📅 作成日 2025-12-22
87
Valen-Team/Valen

テキスト、画像、動画に対応した、0.8B~27Bのオープンなマルチモーダル意思決定モデル。テキストを生成する代わりに、独自の候補に確率を割り当てて判断し、バウンディングボックスで位置を特定します。無料API、ONNX、GGUF、vLLM、SGLangに対応。ファインチューニング用コードも付属。

Valen-Team
⭐ 932 Python 👤 Valen-Team Organization 🕐 更新日時 2026-11-15 📅 作成日 2026-09-23
88
XHToken/Spark-X2.6

Spark-x2.6 オープンモデルシリーズ。オンデバイスモデルのエージェント能力の限界を押し広げる

XHToken
⭐ 927 👤 XHToken Organization 🕐 更新日時 2026-11-04 📅 作成日 2026-08-24
89
harleyszhang/llm_note

モデル推論、トランスフォーマーモデル構造、LLMフレームワークコード分析ノートを含むLLMノート。

harleyszhang
⭐ 897 Python 👤 harleyszhang User 🕐 更新日時 2026-08-19 📅 作成日 2024-09-18
90
th1nhhdk/local_ai_ocr

ローカル、オフライン(初期設定後)、ポータブルなOCRソフトウェアで、画像やPDFファイルを処理でき、DeepSeek-OCR-2 AI(お使いのマシン上で直接実行)を使用します。

th1nhhdk
⭐ 892 Python 👤 th1nhhdk User 🕐 更新日時 2026-07-05 📅 作成日 2025-11-21
91
triton-inference-server/tutorials

このリポジトリには、Triton Inference Server のチュートリアルと例が含まれています

triton-inference-server
⭐ 869 Python 👤 triton-inference-server Organization 🕐 更新日時 2026-11-17 📅 作成日 2022-12-16
92
whitecircle/halo

Halo は、White Circle が開発した、大規模言語モデルおよびマルチモーダルモデルのトレーニング用オープンソースフレームワークです

whitecircle
⭐ 868 Python 👤 whitecircle Organization 🕐 更新日時 2026-11-21 📅 作成日 2026-08-26
93
varunvasudeva1/llm-server-docs

Debian上で独自のローカルで完全にプライベートなLLMサーバーをセットアップするためのエンドツーエンドのドキュメント。チャット、Web検索、RAG、モデル管理、MCPサーバー、画像生成、TTSを備えています。

varunvasudeva1
⭐ 853 👤 varunvasudeva1 User 🕐 更新日時 2026-06-30 📅 作成日 2024-03-26
94
pgalko/BambooAI

透明性、再現性、ユーザーによる制御を重視して構築された、AI搭載のデータ分析ワークベンチです。結果の根拠となるコードや証拠を確認し、再実行によって計算を検証できます。また、ローカルのオープンウェイトモデルを含む幅広いモデルから選択できます。

pgalko
⭐ 848 Python 👤 pgalko User 🕐 更新日時 2026-11-20 📅 作成日 2023-05-07
95
TideDra/lmm-r1

マルチモーダルタスクにおけるDeepSeek-R1の再現のためのLMM RLトレーニングをサポートするようにOpenRLHFを拡張します。

TideDra
⭐ 843 Python 👤 TideDra User 🕐 更新日時 2025-05-14 📅 作成日 2025-02-13
96
jakobdylanc/llmcord

DiscordをLLMのフロントエンドに

jakobdylanc
⭐ 843 Python 👤 jakobdylanc User 🕐 更新日時 2026-08-14 📅 作成日 2023-05-08
97
OpenBMB/AgentCPM

さまざまなLLMエージェントのトレーニングと評価のためのエンドツーエンドインフラストラクチャ.

OpenBMB
⭐ 835 Python 👤 OpenBMB Organization 🕐 更新日時 2026-10-22 📅 作成日 2026-01-08
98
Tencent-Hunyuan/Hunyuan-A13B

Tencent Hunyuan A13B(Hunyuan-A13Bと略称)は、きめ細かなMoEアーキテクチャ上に構築された革新的でオープンソースのLLMです。

Tencent-Hunyuan
⭐ 815 Python 👤 Tencent-Hunyuan Organization 🕐 更新日時 2025-07-08 📅 作成日 2025-06-27
99
ARahim3/kaggle-tpu-lab

無料の Kaggle TPU v5e-8 上で動作する最先端クラスのオープンモデル:GLM-5.3-Flash 320B MoE(約165 tok/s、独自の JAX エンジン使用)と Qwen3.8-27B bf16(約130 tok/s)。262k コンテキスト、プレフィックスキャッシュに対応。Claude Code、Codex、opencode、pi で利用できます。

ARahim3
⭐ 812 Python 👤 ARahim3 User 🕐 更新日時 2026-10-06 📅 作成日 2026-08-31
100
ByteDance-Seed/Seed-Coder

Seed-Coderは、ByteDance Seedによって開発された、ベース、インストラクト、および推論モデルからなる軽量オープンソースコードLLMファミリーです。

ByteDance-Seed
⭐ 755 👤 ByteDance-Seed Organization 🕐 更新日時 2025-06-06 📅 作成日 2025-04-21