Git Stars Git Stars

#llm-inference リポジトリ

202
リポジトリ総数
1.0M
合計スター数
5,180
リポジトリあたりの平均スター数
プログラミング言語: Python C++

リポジトリ合計202件

201
Chen-zexi/vllm-cli

vLLMを使用してLLMを提供するためのコマンドラインインターフェースツール。

Chen-zexi
⭐ 507 Python 👤 Chen-zexi User 🕐 更新日時 2026-01-25 📅 作成日 2025-08-14
202
vectorch-ai/ScaleLLM

大規模言語モデル向けの高性能推論システムで、本番環境向けに設計されています。

vectorch-ai
⭐ 502 C++ 👤 vectorch-ai Organization 🕐 更新日時 2025-12-19 📅 作成日 2023-07-24