#llm-inference-serving Репозитории
Откройте для себя 1 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #llm-inference-serving, с общим числом 742 звёзд (в среднем 742 на проект). Лидером этой темы является EricLBuehler/candle-vllm, набравший 742 звёзд.
Всего репозиториев: 1
Эффективная платформа для инференса и обслуживания локальных LLM, включая совместимый с OpenAI API-сервер.
Часто задаваемые вопросы
Какой репозиторий по теме #llm-inference-serving наиболее популярен на GitHub?
Самый высоко оценённый проект с открытым исходным кодом по теме #llm-inference-serving на GitHub — EricLBuehler/candle-vllm, набравший 742 звёзд. Эффективная платформа для инференса и обслуживания локальных LLM, включая совместимый с OpenAI API-сервер.
Какие языки программирования чаще всего используются в репозиториях по теме #llm-inference-serving?
Среди наиболее высоко оценённых проектов по теме #llm-inference-serving на GitHub чаще всего используются языки программирования Rust.
Как рассчитывается рейтинг репозиториев по теме #llm-inference-serving?
Мы отслеживаем 1 активных репозиториев с открытым исходным кодом, отмеченных тегом #llm-inference-serving (500 и более звёзд), с общим числом 742 звёзд и в среднем 742 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.