Git Stars Git Stars

#llm-inference-serving Репозитории

Откройте для себя 1 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #llm-inference-serving, с общим числом 742 звёзд (в среднем 742 на проект). Лидером этой темы является EricLBuehler/candle-vllm, набравший 742 звёзд.

1
Всего репозиториев
742
Всего звезд
742
Среднее количество звезд на репозиторий
Языки программирования: Rust

Всего репозиториев: 1

1
EricLBuehler/candle-vllm

Эффективная платформа для инференса и обслуживания локальных LLM, включая совместимый с OpenAI API-сервер.

EricLBuehler
⭐ 742 Rust 👤 EricLBuehler User 🕐 Обновлено 2026-10-18 📅 Создано 2023-10-29

Часто задаваемые вопросы

1

Какой репозиторий по теме #llm-inference-serving наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #llm-inference-serving на GitHub — EricLBuehler/candle-vllm, набравший 742 звёзд. Эффективная платформа для инференса и обслуживания локальных LLM, включая совместимый с OpenAI API-сервер.

2

Какие языки программирования чаще всего используются в репозиториях по теме #llm-inference-serving?

Среди наиболее высоко оценённых проектов по теме #llm-inference-serving на GitHub чаще всего используются языки программирования Rust.

3

Как рассчитывается рейтинг репозиториев по теме #llm-inference-serving?

Мы отслеживаем 1 активных репозиториев с открытым исходным кодом, отмеченных тегом #llm-inference-serving (500 и более звёзд), с общим числом 742 звёзд и в среднем 742 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.