Git Stars Git Stars

#llm-inference 仓库

202
仓库总数
1.0M
总星标数
5,180
平均每个仓库星标数
编程语言: Python C++

共 202 个仓库

201
Chen-zexi/vllm-cli

一个使用 vLLM 提供 LLM 服务的命令行界面工具。

Chen-zexi
⭐ 507 Python 👤 Chen-zexi User 🕐 已更新 2026-01-25 📅 创建时间 2025-08-14
202
vectorch-ai/ScaleLLM

一种针对大语言模型的高性能推理系统,专为生产环境设计。

vectorch-ai
⭐ 502 C++ 👤 vectorch-ai Organization 🕐 已更新 2025-12-19 📅 创建时间 2023-07-24