Git Stars Git Stars

#llm-inference Репозитории

202
Всего репозиториев
1.0M
Всего звезд
5,180
Среднее количество звезд на репозиторий
Языки программирования: Python C++

Всего репозиториев: 202

201
Chen-zexi/vllm-cli

Инструмент командной строки для запуска LLM с использованием vLLM.

Chen-zexi
⭐ 507 Python 👤 Chen-zexi User 🕐 Обновлено 2026-01-25 📅 Создано 2025-08-14
202
vectorch-ai/ScaleLLM

Высокопроизводительная система вывода для больших языковых моделей, предназначенная для производственных сред.

vectorch-ai
⭐ 502 C++ 👤 vectorch-ai Organization 🕐 Обновлено 2025-12-19 📅 Создано 2023-07-24